三台学生账号的阿里云服务器hadoop分布式集群搭建与虚拟机上搭建集群区别

1. 在三台阿里云服务上配置/etc/hosts文件应注意

配置主机映射 【三台都需要需要添加】
# vi /etc/hosts (node-47为例)
106.xx.xx.xxx node-106 ( 外网ip)
172.xxx.xx.xx node-47 ( 内网ip)
101.xx.xx.1xx node-101 (外网ip)

注意:这里有坑,就是每台机器配置hosts的时候,自己的ip一定要设置为内网ip,其他节点ip设置为外网ip。否则hdfs或者yarn启动的时候都会报端口被占用的异常,不信可以试试。
三台学生账号的阿里云服务器hadoop分布式集群搭建与虚拟机上搭建集群区别_第1张图片

2—

e.配置映射文件 (此处很坑,坑了半天)

vim /etc/hosts
192.168.50.183 hd09-01
192.168.50.184 hd09-02
192.168.50.185 hd09-03

此处要注意:如果你用的是云服务器,需要把自己的IP设置为内网IP,其他IP设置为外网IP,同理在其他节点上主节点IP为外网自己的子节点为内网其他子节点为外网,如果不这样设置就会出现端口被占用。

注意:以上配置看着很顺利,检查各节点都启动好了,但是在网页上始终不显示lives node,始终显示为0,各种百度。各种查看配置文件。各种jps。感觉都没啥问题,反正各种试吧浪费一天半时间终于知道哪里错了。阿里云安全组需要配置,放开端口号,其他节点访问 。(不了解网络,都是泪啊)坑啊!
三台学生账号的阿里云服务器hadoop分布式集群搭建与虚拟机上搭建集群区别_第2张图片

搭建过程见链接

三台学生账号的服务器搭建hadoop过程,按照链接搭建亲测有效,出现问题多查查/hadoop2.7.3/etc/hadoop下的配置文件是否编辑错误

你可能感兴趣的:(bigdata)