[How to]Cloudera manager 离线安装手册

2016-01-1910:54:05  增加kafka

 

1.简介

本文介绍在离线环境下安装Cloudera manager和简单使用方法

 

2.环境

OS：CentOS 6.7

Cloudera manager版本：5.5.1

CDH版本：5.4.2

安装用户：root

资源：

10.211.55.16 xufeng-1 CM主节点，CM代理节点
10.211.55.17 xufeng-2 CM代理节点
10.211.55.18 xufeng-3 CM代理节点

 

3.介质准备

由于是要求在离线环境下进行安装，所以我们必须是先下载好安装所需要的所有介质。

你也可以直接从我的分享下载对应的安装包。

1.下载cm5.5.1安装介质：

wget -c -r -nd -np -k -L -A rpm http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.5.1/RPMS/x86_64/

 

2.下载CDH的Parcel介质（包含CDH中的Hadoop组件）：

wget http://archive.cloudera.com/cdh5/parcels/5.4.2/CDH-5.4.2-1.cdh5.4.2.p0.2-el6.parcel

wget http://archive.cloudera.com/cdh5/parcels/5.4.2/manifest.json

 

3.下载httpd安装rpm包，后需要用于启动httpd服务。

yum install --downloadonly --downloaddir=./  httpd

 

4.下载createrepo工具rpm包，后续用于yum的安装源元数据构建。

yum install --downloadonly --downloaddir=./  createrepo

 

5.下载安装其他cloudera manager安装过程中其他依赖rpm文件.

在安装过程中系统会提示相应的依赖工具未安装，可使用上述yum的download方法去下载相应的工具rpm包即可。

 

下载完毕后按照如下文件木进行存放：

 

[安装CM管理节点]

 1.[主节点]环境初始化

1.主节点主机初始化

a.关闭selinux

/etc/selinux/config

SELINUX=disabled

 

b.初始化网络服务

[root@xufeng-1 rpm]# chkconfig iptables off
[root@xufeng-1 rpm]# /etc/init.d/network restart
正在关闭接口 eth0：                                        [确定]
关闭环回接口：                                             [确定]
弹出环回接口：                                             [确定]
弹出界面 eth0： 
正在决定 eth0 的 IP 信息...完成。
                                                           [确定]
[root@xufeng-1 rpm]# init 6

 

 c.安装createrepo工具

[root@xufeng-1 createrepo_rpm]# ls
createrepo-0.9.9-22.el6.noarch.rpm           libxml2-2.7.6-20.el6_7.1.x86_64.rpm         python-deltarpm-3.5-0.5.20090913git.el6.x86_64.rpm
deltarpm-3.5-0.5.20090913git.el6.x86_64.rpm  libxml2-python-2.7.6-20.el6_7.1.x86_64.rpm
[root@xufeng-1 createrepo_rpm]# rpm -ivh * --force
warning: createrepo-0.9.9-22.el6.noarch.rpm: Header V3 RSA/SHA1 Signature, key ID c105b9de: NOKEY
Preparing...                ########################################### [100%]
   1:libxml2                ########################################### [ 20%]
   2:libxml2-python         ########################################### [ 40%]
   3:deltarpm               ########################################### [ 60%]
   4:python-deltarpm        ########################################### [ 80%]
   5:createrepo             ########################################### [100%]
[root@xufeng-1 createrepo_rpm]# 

 

d.安装httpd服务

[root@xufeng-1 httpd_rpm]# ls
apr-1.3.9-5.el6_2.x86_64.rpm         apr-util-ldap-1.3.9-3.el6_0.1.x86_64.rpm  httpd-tools-2.2.15-47.el6.centos.1.x86_64.rpm
apr-util-1.3.9-3.el6_0.1.x86_64.rpm  httpd-2.2.15-47.el6.centos.1.x86_64.rpm   mailcap-2.1.31-2.el6.noarch.rpm
[root@xufeng-1 httpd_rpm]# rpm -ivh *
warning: apr-1.3.9-5.el6_2.x86_64.rpm: Header V3 RSA/SHA1 Signature, key ID c105b9de: NOKEY
Preparing...                ########################################### [100%]
   1:apr                    ########################################### [ 17%]
   2:apr-util               ########################################### [ 33%]
   3:apr-util-ldap          ########################################### [ 50%]
   4:httpd-tools            ########################################### [ 67%]
   5:mailcap                ########################################### [ 83%]
   6:httpd                  ########################################### [100%]
[root@xufeng-1 httpd_rpm]# 

 

2.[主节点]搭建yum安装源

后续无论是节点发现还是hadoop安装等都需要一个yum安装源和httpd服务来负责将clouderamanager和cdh内容进行发布。

a.创建安装源元数据：

[root@xufeng-1 rpm]# pwd
/opt/cmrepo/rpm
[root@xufeng-1 rpm]# createrepo .
Spawning worker 0 with 170 pkgs
Workers Finished
Gathering worker results

Saving Primary metadata
Saving file lists metadata
Saving other metadata
Generating sqlite DBs
Sqlite DBs complete

 

执行完毕后在路径下生成repodata文件夹，即为元数据

 

b.将文件移动到特定目录，确保可以使用http协议进行访问

[root@xufeng-1 html]# mkdir -p /var/www/html/cdh5/5.4.2
[root@xufeng-1 html]# ls
cdh5
[root@xufeng-1 html]# cp /opt/
cmrepo/         createrepo_rpm/ httpd_rpm/      
[root@xufeng-1 html]# cp -r /opt/cmrepo/* /var/www/html/cdh5/5.4.2/

 

[root@xufeng-1 html]# ls /var/www/html/cdh5/5.4.2/
CDH-5.4.2-1.cdh5.4.2.p0.2-el6.parcel  manifest.json  rpm
[root@xufeng-1 html]# chmod -R ugo+rX /var/www/html/

 

c.启动httpd服务

[root@xufeng-1 html]# service httpd start
Starting httpd: httpd: Could not reliably determine the server's fully qualified domain name, using 10.211.55.16 for ServerName
                                                           [  OK  ]
[root@xufeng-1 html]# chkconfig httpd on

 

 

d.在浏览器中输入<ip>/var/www/html/cdh5/5.4.2/ 你应该能够看到如下页面：

e.设置yum安装源：

由于是离线环境我们并不需要其他在线安装源，删除：

[root@xufeng-1 html]# rm -rf /etc/yum.repos.d/*

 

增加自建的yum安装源：

[root@xufeng-1 html]# cat /etc/yum.repos.d/myrepo.repo
[myrepo]
name=myrepo
baseurl=http://10.211.55.16/cdh5/5.4.2/rpm/
enabled=1
gpgcheck=0

 

 

f.使用自建yum安装源进行ntpd服务安装

  [root@xufeng-1 rpm]# yum install ntp

[root@xufeng-1 rpm]# service ntpd start
Starting ntpd:                                             [  OK  ]
[root@xufeng-1 rpm]# chkconfig ntpd on

 

 

3.[主节点]cloudera manager 安装开始

1.安装jdk

yum install oracle-j2sdk1.7

 

2.安装cloudera manager管理器服务

yum install cloudera-manager-daemons cloudera-manager-server

 

3.安装内置数据库

yum install cloudera-manager-server-db-2

 

4.启动内置数据库

[root@xufeng-1 rpm]# service cloudera-scm-server-db start

 

5.启动Cloudera管理服务

[root@xufeng-1 rpm]# service cloudera-scm-server start

 

上述完成后即可访问管理页面，输入http://<ip>:7180

[安装CDH集群]

1.登陆集群

使用默认的admin/admin用户名和密码登陆管理服务，使用免费版本进行测试。

 

 

2.集群的资源首先是服务器，通过ip来发现节点

 

3.节点发现后为了后续让manager统一管理需要在被发现的节点上进行代理和cdh发行包的安装。

4.上述罗列很很多发行版本，但是我们需要安装指定版本的cdh，且这个版本我们已经放在httpd上了。

在上述步骤点击【更多选项】，进入CDH发行包的地址指定，按照下述图片进行设定。

除了指定了CDH的版本库外，我们也需要指定代理的发行路径，如下图:

 

5.用户权限说明

 

6.集群中被发现待安装的节点其相同用户必须具有相同密码：

 

7.设定完毕访问信息后，manager将为被发现节点进行初始化安装，包括安装jdk，agent和parcl的cdh包等。

 

8.节点初始化安装完毕后manager将告知用户此时节点中存在的问题需要去解决。

 

10.目前节点资源已经准备就绪了，那么我们就开始在这些节点上部署我们的hadoop，由于我使用的是运行于mac上的虚拟机，所以

只选择安装了zookeeeper和hdfs服务。

 

11.选择完毕需要安装的服务后，可以将服务的实例分配到指定节点上。

12.点击继续后，服务将会被安装，安装完毕后搭建完毕一个新的集群。

13.简单的去登陆一台节点，测试访问hdfs：

[root@xufeng-3 ~]# hadoop fs -ls /
Found 1 items
drwxrwxrwt   - hdfs supergroup          0 2016-01-04 08:36 /tmp
[root@xufeng-3 ~]# 

 

说明hdfs目前已经可用。

 

以上。

 

2016-01-1910:54:05  增加kafka

kafka按照官方文档说明是脱离于CDH的Parcel而独立存在的。如果需要通过CM安装kafka则需要独立下载kafka

1. 下载地址：http://archive.cloudera.com/kafka/parcels/

2. 将包放入httpd服务上。

3.点击CM管理页面上的【Parcel】按钮进入Parcel管理页面后点击【编辑设置】按钮，进入编辑页面后再【远程Parcel存储库URL】中增加kafka的url，点击【保存修改】。

4.从新点击CM管理页面上的【Parcel】按钮进入Parcel管理页面，你讲看到kafka的Parcel版本，此时还未下载，一路点击下载直至激活（此时按钮显示停用）。

5.至此kafka的安装包已经在cm上激活成功了，你可以进行安装。