hadoop上搭建hive(远程模式+hive服务端、客户端)

环境

hadoop2.7.1+ubuntu 14.04
hive 2.0.1
集群环境
namenode节点：master (hive服务端)
datanode 节点：slave1,slave2（hive客户端）
hive建立在hadoop的HDFS上，搭建hive前，先需搭建hadoop，可参考我的上一篇hadoop_cluster搭建文档
远程模式：
101.201.81.34（Mysql server meta server安装位置。我使用的windows系统，你也可以使用ubuntu）

一、101.201.81.43

该主机上安装好mysql，并且建立一个hive数据库
（如果在ubuntu上，要开启远程访问）

二、在master上安装hive

1.安装hive

1)在apache官网上下载hive-2.1.0包
2)sudo tar -zxvf apache-hive-2.1.0-bin.tar.gz
3)sudo cp -R apache-hive-2.1.0-bin /home/cms/hive
4)chmod -R 775 /home/cms/hive
5)sudo chown -R cms /home/cms/hive

2.修改/etc/profile加入HIVE_HOME的变量

HIVE_HOME/PATH/CLASSPATH
我粘贴的是我所有的配置

export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
export HADOOP_HOME=$HOME/hadoop-2.7.1
export HIVE_HOME=$HOME/hive
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$HIVE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$HIVE_HOME/bin:$PATH
export HADOOP_MAPARED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop```

source /etc/profile

#####3.修改hive/conf下的几个template模板并重命名为其他
```cp hive-env.sh.template hive-env.sh```
```cp hive-default.xml.template hive-site.xml```
配置hive-env.sh文件，指定HADOOP_HOME安装位置
```HADOOP_HOME=$HADOOP_HOME/hadoop-2.7.1```
#####4.修改hive-site.xml文件，指定MySQL数据库驱动、数据库名、用户名及密码，修改的内容如下所示
```
  javax.jdo.option.ConnectionURL
  jdbc:mysql://101.201.81.34:3306/hive?createDatabaseIfNotExist=true
  JDBC connect string for a JDBC metastore


  javax.jdo.option.ConnectionDriverName
  com.mysql.jdbc.Driver
  Driver class name for a JDBC metastore


  javax.jdo.option.ConnectionUserName
  root
  username to use against metastore database


  javax.jdo.option.ConnectionPassword
  admin
  password to use against metastore database

 ```
其中：
javax.jdo.option.ConnectionURL参数指定的是Hive连接数据库的连接字符串；
javax.jdo.option.ConnectionDriverName参数指定的是驱动的类入口名称；
javax.jdo.option.ConnectionUserName参数指定了数据库的用户名；
javax.jdo.option.ConnectionPassword参数指定了数据库的密码。
#####5.缓存目录的问题,如果不配置也会出错的

hive.exec.local.scratchdir
/opt/hivetmp
Local scratch space for Hive jobs


hive.downloaded.resources.dir
/opt/hivetmp
Temporary local directory for added resources in the remote file system.
并且需要对目录进行权限设定mkdir -p /opt/hivetmp chmod -R 775 /opt/hivetmp ```

6.下载mysql-connector-java-5.1.30-bin.jar文件，并放到$HIVE_HOME/lib目录下

可以从Mysql的官方网站下载,但是记得一定要解压呀,下载的是一个tar.gz文件,解压后为jarwenjian
7.hive表存储在在HDFS中的/user/hive/warehouse中

三、slave2建立hive客户端

1.将master上的整个hive目录移至slave2上
scp -r hive slave2:/home/cms
注意要关闭防火墙
sudo ufw disable
2.修改slave2下的hive-site配置文件，内容如下：

         

 hive.metastore.uris
 thrift://master:9083
 Thrift uri for the remote metastore. Used by metastore client to connect to remote metastore.

 


 hive.metastore.warehouse.dir
 hdfs://hive/warehouse

```
修改/etc/profile,与master配置一致

#####四、启动
1.进入之前要初始化数据库（master节点）
```schematool -initSchema -dbType mysql```

```cms@master:~$ schematool -initSchema -dbType mysql 
SLF4J: Class path contains multiple SLF4J bindings.
SLF4J: Found binding in [jar:file:/usr/local/hive/lib/log4j-slf4j-impl-2.4.1.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: Found binding in 1.7.10.jar!/org/slf4j/impl/StaticLoggerBinder.class]
Metastore connection URL: jdbc:mysql://101.201.81.34:3306/hive?createDatabaseIfNotExist=true
Metastore Connection Driver : com.mysql.jdbc.Driver
Metastore connection User: root
Starting metastore schema initialization to 2.1.0
Initialization script hive-schema-2.1.0.mysql.sql
Initialization script completed
schemaTool completed```
2.hive启动
要启动metastore服务
在master上执行
```hive --service metastore &```
```[cms@master ~]$ jps
10288 RunJar  #多了一个进程
9365 NameNode
9670 SecondaryNameNode
11096 Jps
9944 NodeManager
9838 ResourceManager
9471 DataNod```
3.测试hive shell(服务端，客户端都可)
```hive
show databases;
show tables;```
查看hive表
``` dfs -lsr /user/hive/warehouse```
####参考文档
[Hadoop2.7实战v1.0之Hive-2.0.0+MySQL远程模式安装](http://blog.itpub.net/30089851/viewspace-2082805/)
[Hive的安装](https://chu888chu888.gitbooks.io/hadoopstudy/content/Content/8/chapter0807.html)
[Hadoop集群之Hive安装配置](http://yanliu.org/2015/08/13/Hadoop%E9%9B%86%E7%BE%A4%E4%B9%8BHive%E5%AE%89%E8%A3%85%E9%85%8D%E7%BD%AE/)