CDH 5.15.2集群搭建(基于阿里云)

软件版本

操作系统：centos 7.5 64位
CDH：5.15.2，对应的大数据组件版本
jdk：1.7

Cloudera Manger 架构

安装包	下载地址
parcel：所有大数据组件，以二进制方式打包在一个文件中	http://archive.cloudera.com/cdh5/parcels/ *注意下载的版本必须与操作系统版本一致，否则在安装的时候会重新下载对应的版本
jdk：oracle 64位 jdk	http://archive.cloudera.com/cm5/redhat/7/x86_64/cm/5.15.2/RPMS/x86_64/
Clouder Manager相关文件	http://archive.cloudera.com/cm5/redhat/7/x86_64/cm/5.15.2/RPMS/x86_64/
centos镜像	http://vault.centos.org/7.5.1804/isos/x86_64/

虚拟机设置

以下步骤如未特别说明，均需在所有节点操作

Step1:安装虚拟机（阿里云忽略此步骤）

利用vmvare或者virtualbox（百度即可有安装步骤）
（自己的机器）建议：安装好一台后通过导入导出功能复制其他两台

Step2:设置网络（针对自己搭建的虚拟机）

设置网络（自己的虚拟机需设置为桥接）

Step3:设置hosts(后续操作均以root用户执行)

这里用的是阿里云内网ip

vi /etc/hosts:

172.26.234.49 slave1
172.26.234.50 slave2
172.26.234.51 master

Step4:关闭SELinux及防火墙（阿里云机器忽略此步骤）

1. 关闭SELinux:
   vi /etc/selinux/config ，修改如下：
   SELINUX=disabled

2. 关闭防火墙：
   启动： systemctl start firewalld
   查看状态： systemctl status firewalld
   停止： systemctl stop firewalld
   禁用： systemctl disable firewalld
   systemctl stop iptables.service
   systemctl status iptables.service
   systemctl disable iptables.service

Step5: 设置ssh免密登录

1. 生成密钥：
   ssh-keygen -t rsa（默认位于 ~/.ssh/）
2. 拷贝公钥到所有机器：
   ssh-copy-id root@master
   ssh-copy-id root@slave1
   ssh-copy-id root@slave2
3. 测试免密登录：
   ssh master
   ssh slave1
   ssh slave2

Step6: 设置ntp时间同步服务（阿里云无需同步）

1. 安装 ntp
   yum –y install ntp

2. 设置NTP服务开机启动
   chkconfig ntpd on

将master设置为主服务器（在master节点操作）：
1. vi /etc/ntp.conf，内容如下：
driftfile /var/lib/ntp/ntp.drift #草稿文件
# 允许内网其他机器同步时间
restrict *自己的内网段* mask 255.255.255.0 nomodify notrap
 
# Use public servers from the pool.ntp.org project.
# 中国这边最活跃的时间服务器 : [http://www.pool.ntp.org/zone/cn](http://www.pool.ntp.org/zone/cn)
server 210.72.145.44 perfer   # 中国国家受时中心
server 202.112.10.36             # 1.cn.pool.ntp.org
server 59.124.196.83             # 0.asia.pool.ntp.org
 
# allow update time by the upper server 
# 允许上层时间服务器主动修改本机时间
restrict 210.72.145.44 nomodify notrap noquery
restrict 202.112.10.36 nomodify notrap noquery
restrict 59.124.196.83 nomodify notrap noquery
 
# 外部时间服务器不可用时，以本地时间作为时间服务
server  127.127.1.0     # local clock
fudge   127.127.1.0 stratum 10
2. 重启服务： service ntpd restart
3. 查看同步状态： netstat -tlunp | grep ntp

设置slave到master 的同步（在slave节点操作）：
1. vi /etc/ntp.conf，内容如下：
driftfile /var/lib/ntp/ntp.drift # 草稿文件

statsdir /var/log/ntpstats/
statistics loopstats peerstats clockstats
filegen loopstats file loopstats type day enable
filegen peerstats file peerstats type day enable
filegen clockstats file clockstats type day enable

# 让NTP Server为内网的ntp服务器
server *自己的master ip*
fudge *自己的master ip* stratum 5

# 不允许来自公网上ipv4和ipv6客户端的访问
restrict -4 default kod notrap nomodify nopeer noquery 
restrict -6 default kod notrap nomodify nopeer noquery

# Local users may interrogate the ntp server more closely.
restrict 127.0.0.1
restrict ::1
2. 重启服务： service ntpd restart
3. 手动同步： ntpdate -u 192.168.137.110

Step7: 上传安装文件

cdh文件夹里有

cm文件夹里有

cm文件夹可以放在任意文件夹
cdh下的内容放在/opt/cloudera/parcel-repo文件夹中
cloudera-manager-installer.bin可以放在任意处
cloudera-manager.repo放在/etc/yun.repos.d文件夹下

Step8: 安装jdk&CM(cm文件夹下)

1. 验证repo文件是否起效
   yum list | grep cloudera
   #如果列出的不是待安装的版本，执行下面命令重试
   yum clean all
   yum list | grep cloudera
   
2. 切换到cm目录下，执行
   yum -y install *.rpm
   安装完毕检查
   rpm -qa | grep cloudera
   
3. 设置java路径：
   vi /etc/profile
   # 在该文件末尾添加以下行
   JAVA_HOME=/usr/java/jdk1.7.0_67-cloudera
   PATH=$JAVA_HOME/bin:$PATH
   export JAVA_HOME PATH
4. 检查安装：
   source /etc/profile
   java -version

Step9: 安装CDH（只在master节点）

1. 进入cloudera-manager-installer.bin文件目录，给bin文件赋予可执行权限：
   chmod +x ./cloudera-manager-installer.bin

2. 运行：
   第一次运行这个cloudera-manager-installer.bin的时候先删除/etc/cloudera-scm-server/db.properties文件。
   然后运行：
   ./cloudera-manager-installer.bin

然后下一步下一步即可。

启动过程较为漫长；等待上图结束后；可以查看日志/var/log/cloudera-scm-server来观察启动状态

以上为止给每个虚机创建一个快照防止出现安装失败重新开始

启动完毕;登录默认账号admin 密码admin

先更改密码然后接受许可继续

选择免费版继续

组件介绍;点击继续

指定主机；继续


选择存储库

jdk已经安装过；不必勾选

不必选择单用户

和root密码相同

安装中

分配检查

上图如果出现主机状况运行不良
解决方法如下

是因为节点上次安装没有成功，需要删除cm_guid文件才能再次安装。
[root@master ~]# find / -name cm_guid
/var/lib/cloudera-scm-agent/cm_guid
[root@master  ~]# rm -rf /var/lib/cloudera-scm-agent/cm_guid      --删除文件
[root@master  ~]# /etc/init.d/cloudera-scm-agent restart       --重启服务

搭建完毕

自己选择自己需要的组件

Step10: HDFS设置(如无爆红错误可以忽略)

• 在CM console中将副本设为2：dfs.replication=2

• 命令行执行：hadoop fs -setrep 2 /

CDH启动与关闭

• CM Portal 地址：
  http://master:7180/cmf/home
• 关闭步骤：
  • 在CM portal上关闭 cluster
  • 在所有节点关闭CM agent： service cloudera-scm-agent stop
  • 在master节点关闭CM server： service cloudera-scm-server stop
• 启动步骤：
  • 在所有节点启动CM agent： service cloudera-scm-agent start
  • 在master节点启动CM server： service cloudera-scm-server start
  • 在CM portal上启动 cluster
• 查看启动日志：
  • /var/log/cloudera-scm-server/cloudera-scm-server.log