CentOS6.5基于Ambari搭建Hadoop开发环境

文章目录

        • 准备环境
        • 搭建过程

准备环境

部署好的Ambari-server
安装完成的MariaDB等等
CentOS6.5基于Ambari搭建Hadoop开发环境_第1张图片
准备环境的过程详见我上一篇博客的链接

搭建过程

(1)登陆进入Ambari初始页面
(右键翻译会将整个页面翻译成中文,但是某些专有名词会被翻译得很怪hhh)
CentOS6.5基于Ambari搭建Hadoop开发环境_第2张图片
(2)单击按钮Launch Install Wizard,开始搭建集群
输入集群名称,点击下一步(我这里的集群名称是myCluster)
CentOS6.5基于Ambari搭建Hadoop开发环境_第3张图片
(3)部署HDP
①选择HDP2.4再点击Advanced Repository Options
[注]如果当初创建本地源的时候下载的是HDP其他版本,则选择相应版本
CentOS6.5基于Ambari搭建Hadoop开发环境_第4张图片
②由于虚拟机的系统是CentOS6.5,所以选择redhat6
后面的地址修改为搭建好的本地源地址
CentOS6.5基于Ambari搭建Hadoop开发环境_第5张图片
(4)配置ssh
将上方文本框填入搭建涉及的主机
在ambari-server运行的节点上执行以下指令

cat ~/.ssh/id_rsa

将密钥拷贝到文本框中点击下一步
CentOS6.5基于Ambari搭建Hadoop开发环境_第6张图片

在虚拟机上更新一下openssl版本(否则下一步可能出错失败)
(如果出现出错失败的情况,更新openssl版本再重试即可)

yum install openssl

等待一段时间
CentOS6.5基于Ambari搭建Hadoop开发环境_第7张图片
成功,但是有warning提示。我们点击这个提示查看warning内容。
CentOS6.5基于Ambari搭建Hadoop开发环境_第8张图片
① 禁用 Transparent Huge Pages
CentOS6.5基于Ambari搭建Hadoop开发环境_第9张图片

# cat /sys/kernel/mm/transparent_hugepage/enabled 
[always] madvise never 
# echo never > /sys/kernel/mm/transparent_hugepage/enabled 
# echo never > /sys/kernel/mm/transparent_hugepage/defrag 
# cat /sys/kernel/mm/transparent_hugepage/enabled 
always madvise [never] 

重启后失效,需要再次执行。
②ntpd服务没开
CentOS6.5基于Ambari搭建Hadoop开发环境_第10张图片
那么就配置一下ntp: 配置教程
至此,warning全部搞好
CentOS6.5基于Ambari搭建Hadoop开发环境_第11张图片
点击下一步
CentOS6.5基于Ambari搭建Hadoop开发环境_第12张图片
(5)选择需要安装的服务。本例安装 HDFS、YARN+MapReduce2、Zookeeper、Tez、Pig、Hive、Mahout、Sqoop等服务。然后点击下一步。
CentOS6.5基于Ambari搭建Hadoop开发环境_第13张图片
注:这里若是选择了网页翻译成中文,就很好玩了hhh感兴趣的话可以试试
CentOS6.5基于Ambari搭建Hadoop开发环境_第14张图片
然后我们发现出现了如下提示。意思是让把Ambari Mertics勾上。那就勾上吧。
CentOS6.5基于Ambari搭建Hadoop开发环境_第15张图片
(6)部署(为了省事,我选默认的。直接下一步)
CentOS6.5基于Ambari搭建Hadoop开发环境_第16张图片
CentOS6.5基于Ambari搭建Hadoop开发环境_第17张图片
(7)分配客户机和服务器(使用默认配置)
CentOS6.5基于Ambari搭建Hadoop开发环境_第18张图片
(8)Service的配置
(这里配置了一下Hive的数据库密码)
CentOS6.5基于Ambari搭建Hadoop开发环境_第19张图片
配置了一下HDFS的DataNode大小(因为建议小于0.957个G)
CentOS6.5基于Ambari搭建Hadoop开发环境_第20张图片我这里设置成了512MB,点击下一步
报了一个提示。翻译之后显示如下
CentOS6.5基于Ambari搭建Hadoop开发环境_第21张图片
于是,在Hive-Settings里将TezContainerSize改成682MB
CentOS6.5基于Ambari搭建Hadoop开发环境_第22张图片
剩下那个不管了,直接下一步,等着
CentOS6.5基于Ambari搭建Hadoop开发环境_第23张图片
如果报错,参考问题集

你可能感兴趣的:(CentOS6.5基于Ambari搭建Hadoop开发环境)