hadoop 集群完全分布式模式

1 、实验环境

64位centos6.5 ,安装参考链接。

jdk-8u101-linux-x64.tar,安装参考链接。

hadoop-1.2.1.tar.gz

集群架构:包括4个节点:1个Master,3个Salve


节点IP地址分布如下:

主机名 IP系统版本Hadoopnodehadoop进程名

master192.168.8.200CentOS 6.5masternamenode,jobtracker

slave1192.168.8.201CentOS 6.5slavedatanode,tasktracker

slave2192.168.8.202CentOS 6.5slavedatanode,tasktracker

slave3192.168.8.203CentOS 6.5slavedatanode,tasktracker

四个节点上均是CentOS 6.5系统,并且有一个相同的用户hadoop。master机器主要配置NameNode和JobTracker的角色,负责总管分布式数据和分解任务的执行;3个salve机器配置DataNode和TaskTracker的角色,负责分布式数据存储以及任务的执行。

2 、配置网络

1.修改主机名

master:

vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=master

slave1

vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=slave1

slave2

vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=slave2

slave3

vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=slave3

2.修改ip地址(这里只示范master)

vi /etc/sysconfig/network-scripts/ifcfg-eth0

BOOTPROTO=dhcp

ONBOOT=yes#开机启用本配置

service network restart

3.修改ip地址和主机名的映射关系(这里只示范master)

vi /etc/hosts

127.0.0.1  localhost localhost.localdomain localhost4 localhost4.localdomain4

::1        localhost localhost.localdomain localhost6 localhost6.localdomain6

192.168.8.200 master

192.168.8.201 slave1

192.168.8.202 slave2

192.168.8.203 slave3

3、centos6.5关闭防火墙和SELinux(这里只示范master)

关闭命令:  service iptables stop

永久关闭防火墙:chkconfig iptables off

两个命令同时运行,运行完成后查看防火墙关闭状态

service iptables status

使用getenforce命令查看是否关闭

修改vi /etc/selinux/config 文件

将SELINUX=enforcing改为SELINUX=disabled,执行该命令后重启机器生效


查看:


4 创建用户(用来操作hadoop)(这里只示范master)

创建新用户

[root@localhost ~]# adduser pang

为这个用户初始化密码,linux会判断密码复杂度,不过可以强行忽略:

[root@localhost ~]# passwd pang

更改用户 pang的密码

新的 密码:

无效的密码: 密码未通过字典检查 - 过于简单化/系统化

重新输入新的 密码:

passwd:所有的身份验证令牌已经成功更新。

    2.授权 

[root@localhost ~]# ls -l /etc/sudoers

-r--r-----1root root42519月2515:08 /etc/sudoers

sudoers只有只读的权限,如果想要修改的话,需要先添加w权限:

[root@localhost ~]# chmod -v u+w /etc/sudoers

modeof"/etc/sudoers"changedfrom0440(r--r-----)to0640(rw-r----

有需要的联系我

yxxy1717

2317384986

你可能感兴趣的:(hadoop 集群完全分布式模式)