Hive on Spark配置
1. Hive引擎简介
Hive引擎包括：默认MR、tez、spark
Hive on Spark：Hive既作为存储元数据又负责SQL的解析优化，语法是HQL语法，执行引擎变成了Spark，Spark负责采用RDD执行。
Spark on Hive : Hive只作为存储元数据，Spark负责SQL解析优化，语法是Spark SQL语法，Spark负责采用RDD执行。
2. Hive on Spark配置
1）兼容性说明
注意：官网下载的Hive3.1.2和Spark3.0.0默认是不兼容的。因为Hive3.1.2支持的Spark版本是2.4.5，所以需要我们重新编译Hive3.1.2版本。
编译步骤：官网下载Hive3.1.2源码，修改pom文件中引用的Spark版本为3.0.0，如果编译通过，直接打包获取jar包。如果报错，就根据提示，修改相关方法，直到不报错，打包获取jar包。
2）在Hive所在节点部署Spark
如果之前已经部署了Spark，则该步骤可以跳过，但要检查SPARK_HOME的环境变量配置是否正确。
（1）Spark官网下载jar包地址：http://spark.apache.org/downloads.html
（2）上传并解压解压spark-3.0.0-bin-hadoop3.2.tgz
[root@bigdata101 src]# tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz
（3）配置SPARK_HOME环境变量
[root@bigdata101 src]# vim /root/.bash_profile
添加如下内容
# SPARK_HOME
export SPARK_HOME=/usr/local/src/spark-3.0.0-bin-hadoop3.2
export PATH=$PATH:$SPARK_HOME/bin
source 使其生效
[root@bigdata101 spark-3.0.0-bin-hadoop3.2]# source /root/.bash_profile
３）在hive中创建spark配置文件
[root@bigdata101 spark-3.0.0-bin-hadoop3.2]# cd /usr/local/src/apache-hive-3.1.0-bin/conf/
[root@bigdata101 conf]# vim spark-defaults.conf
添加如下内容（在执行任务时，会根据如下参数执行）
spark.master yarn
spark.eventLog.enabled true
spark.eventLog.dir hdfs://bigdata101:9000/spark-history
spark.executor.memory 1g
spark.driver.memory 1g
在HDFS创建如下路径，用于存储历史日志
[root@bigdata101 apache-hive-3.1.0-bin]# hadoop fs -mkdir /spark-history
４）向HDFS上传Spark纯净版jar包
说明1：由于Spark3.0.0非纯净版默认支持的是hive2.3.7版本，直接使用会和安装的Hive3.1.2出现兼容性问题。所以采用Spark纯净版jar包，不包含hadoop和hive相关依赖，避免冲突。
说明2：Hive任务最终由Spark来执行，Spark任务资源分配由Yarn来调度，该任务有可能被分配到集群的任何一个节点。所以需要将Spark的依赖上传到HDFS集群路径，这样集群中任何一个节点都能获取到。
（1）上传并解压spark-3.0.0-bin-without-hadoop.tgz
[root@bigdata101 src]# tar -zxvf spark-3.0.0-bin-without-hadoop.tgz
（2）上传Spark纯净版jar包到HDFS
[root@bigdata101 src]# hadoop fs -mkdir /spark-jars
[root@bigdata101 src]# hadoop fs -put spark-3.0.0-bin-without-hadoop/jars/* /spark-jars
５）修改hive-site.xml文件
[root@bigdata101 src]# vim apache-hive-3.1.0-bin/conf/hive-site.xml
添加如下内容
spark.yarn.jars
hdfs://bigdata101:9000/spark-jars/*
hive.execution.engine
spark
6）修改spark-env.sh文件
[root@bigdata101 conf]# pwd
/usr/local/src/spark-3.0.0-bin-hadoop3.2/conf
[root@bigdata101 conf]# mv spark-env.sh.template spark-env.sh
[root@bigdata101 conf]# vim spark-env.sh
然后在该文件中添加:
export SPARK_DIST_CLASSPATH=$(hadoop classpath)
3. Hive on Spark测试
（1）启动hive客户端
[root@bigdata101 spark-3.0.0-bin-hadoop3.2]# hive
（2）创建一张测试表
hive (default)> create table student(id int, name string);
（3）通过insert测试效果
hive (default)> insert into table student values(1,'abc');