最详细的Cloudera CDH5安装指南

CDH安装教程

基础环境

centos7,oracle jdk8,mysql5.6

一  准备

1 安装jdk8

2 安装mysql5.6

3 下载jdbc mysql-connector-java.jar

4 CDH相关

1) cloudera manager

cloudera-manager-centos7-cm5.7.2_x86_64.tar.gz

下载地址:http://archive.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.7.2_x86_64.tar.gz

2) cdh 三个文件

CDH-5.7.2-1.cdh5.7.2.p0.18-el7.parcel

CDH-5.7.2-1.cdh5.7.2.p0.18-el7.parcel.sha1

manifest.json

下载地址:http://archive.cloudera.com/cdh5/parcels/5.7.2/

二 基本安装

1 修改hostname

2 关闭防火墙

3 设置ssh免密码登陆

4 NTP服务器设置(用于不同节点间实现时间同步)

5 yum install psmisc

6 安装mysql(root/123456)确保各个slave可以访问

7 创建数据库

create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

create database monitor DEFAULT CHARSET utf8 COLLATE utf8_general_ci; #Activity Monitor

create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

grant all on *.* to root@"%" Identified by "123456"; #设置所有数据库的访问权限

例如 grant all on hive.* to root@"master1"; #设置master1可以访问hive中所有表

flush privileges;

三 安装Cloudera-Manager

1 创建cloudera-manager目录 解压到安装目录 然后复制到slave

mkdir /opt/cloudera-manager

cp cloudera-manager-centos7-cm5.7.2_x86_64.tar.gz /opt/cloudera-manager

tar -zxvf cloudera-manager-centos7-cm5.7.2_x86_64.tar.gz

scp /opt/cloudera-manager到其他机器同一个目录下

2 创建cloudera用户(所有节点)

useradd --system --home=/opt/cloudera-manager/cm-5.7.2/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

3 配置所有节点cloudera-manger-agent指向master服务器主机名称(包括master自己)

vi /opt/cloudera-manager/cm-5.7.2/etc/cloudera-scm-agent/config.ini

server_host改为CMS所在的主机名即hadoop1

4 master节点创建cloudera-manager-server的本地元数据保存目录

mkdir /var/cloudera-scm-server

chown cloudera-scm:cloudera-scm /var/cloudera-scm-server

chown cloudera-scm:cloudera-scm /opt/cloudera-manager

5 master节点中创建parcel-repo仓库目录

mkdir -p /opt/cloudera/parcel-repo

chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo

cp CDH-5.7.2-1.cdh5.7.2.p0.18-el7.parcel

CDH-5.7.2-1.cdh5.7.2.p0.18-el7.parcel.sha

manifest.json

/opt/cloudera/parcel-repo

chown cloudera-scm:cloudera-scm 三个文件

#其中CDH-5.7.2-1.cdh5.7.2.p0.18-el5.parcel.sha1 后缀要把1去掉

6 所有节点创建parcels目录

mkdir -p /opt/cloudera/parcels

chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

7 各个节点复制mysql jdbc 到/opt/cloudera-manager/cm-5.7.2/share/cmf/lib

cp mysql-connector-java-5.1.44-bin.jar /opt/cloudera-manager/cm-5.7.2/share/cmf/lib

8 在master节点初始脚本配置数据库scm_prepare_database.sh(mysql安装在master上)

/opt/cloudera-manager/cm-5.7.2/share/cmf/schema/scm_prepare_database.sh mysql -localhost -uroot -p123456 --scm-host localhost cm root 123456

#说明:这个脚本就是用来创建和配置CMS需要的数据库的脚本。各参数是指:

#mysql:数据库用的是mysql,如果安装过程中用的oracle,那么该参数就应该改为oracle。

#-hlocalhost:数据库建立在localhost主机上面。也就是主节点上面。

#-uroot:root身份运行mysql。-123456:mysql的root密码是***。

#--scm-host hadoop1:CMS的主机,一般是和mysql安装的主机是在同一个主机上。

#最后三个参数是:数据库名,数据库用户名,数据库密码

9  设置开机启动

master节点

vi /etc/rc.local

/opt/cloudera-manager/cm-5.7.2/etc/init.d/cloudera-scm-server start

/opt/cloudera-manager/cm-5.7.2/etc/init.d/cloudera-scm-agent start

slave节点

vi /etc/rc.local

/opt/cloudera-manager/cm-5.7.2/etc/init.d/cloudera-scm-agent start

10 启动master节点

/opt/cloudera-manager/cm-5.7.2/etc/init.d/cloudera-scm-server start

/opt/cloudera-manager/cm-5.7.2/etc/init.d/cloudera-scm-agent start

11 启动slave节点

/opt/cloudera-manager/cm-5.7.2/etc/init.d/cloudera-scm-agent start

12 复制mysql驱动到hive lib

/opt/cloudera/parcels/CDH-5.7.2-1.cdh5.7.2.p0.18/lib/hive/lib

13 开始配置安装

http://master:7180/

master是CM安装的主机ip或者主机名。显示如下界面,用户名和密码都输入admin,进入web管理界面


最详细的Cloudera CDH5安装指南_第1张图片

如果打不开改网页,请耐心等待会。这个服务启动是需要一定时间的

选择Express

最详细的Cloudera CDH5安装指南_第2张图片

下一步

最详细的Cloudera CDH5安装指南_第3张图片

选择节点

最详细的Cloudera CDH5安装指南_第4张图片

选择版本

最详细的Cloudera CDH5安装指南_第5张图片

开始复制

最详细的Cloudera CDH5安装指南_第6张图片

安装检查

最详细的Cloudera CDH5安装指南_第7张图片
两个警告可以忽略


最详细的Cloudera CDH5安装指南_第8张图片
选择安装服务

分配角色

最详细的Cloudera CDH5安装指南_第9张图片
分配角色

设置数据库

最详细的Cloudera CDH5安装指南_第10张图片

群集设置 默认即可

最详细的Cloudera CDH5安装指南_第11张图片

开始安装

最详细的Cloudera CDH5安装指南_第12张图片
继续安装完成

安装过程遇到问题可以直接留言,我来解决!

你可能感兴趣的:(最详细的Cloudera CDH5安装指南)