VMware虚拟机搭建Hadoop集群

阅读更多
最近搭建了hadoop2.5的集群,在这里分享一下希望能帮助到初学者,也为自己做下笔记。(一年前安装过hadoop0.23的集群,现在都不记得了)

一、环境:
1、JDK1.7
2、Hadoop2.5.2
3、VMware8.5
4、CentOs6.4 32为
下载地址: http://pan.baidu.com/s/1qW4saAS
二、环境要求:
1、使用VMware创建三个CentOs6.4系统(创建一个复制两份);
2、在每个操作系统上安装好jdk1.7,测试命令:java -verison看到如下输出就说明安装好了;
[root@hdp01nn sbin]# java -version
java version "1.7.0_67"
Java(TM) SE Runtime Environment (build 1.7.0_67-b01)
Java HotSpot(TM) Client VM (build 24.65-b04, mixed mode, sharing)

三、安装规划:
一个nameNode,两个dataNode;
我本机的hosts如下:
192.168.80.130 hdp01nn #hdp=hadoop nn=nameNode dn=dataNode
192.168.80.131 hdp02dn
192.168.80.132 hdp03dn

四、开始安装:
1、修改虚拟系统的IP为静态分配、配置hosts文件
1.1将IP地址改为静态指定
这一步需要修改两个文件:
a)/etc/sysconfig/network
NETWORKING=yes
HOSTNAME=localhost.localdomain
GATEWAY=192.168.80.2

b)/etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE="eth0"
BOOTPROTO="static"
IPADDR=192.168.80.130
NETMASK=255.255.255.0

HWADDR="00:0C:29:0B:48:B5"
IPV6INIT="yes"
NM_CONTROLLED="yes"
ONBOOT="yes"
TYPE="Ethernet"
UUID="ef892391-3951-46f6-8826-239cd2e5689b"
DNS1=202.106.196.115

查看虚拟机的网关和dns
edit>virtal network editor
选择VMNet8>NATSettings 看到如下界面
VMware虚拟机搭建Hadoop集群_第1张图片

还有个文件/etc/resolv.conf会自动修改,如果没有自动修改可以参考如下文件:
# Generated by NetworkManager
nameserver 202.106.196.115


重启网卡 service network restart
[root@hdp01nn sbin]# service network restart
Shutting down interface eth0:  Device state: 3 (disconnected)
[  OK  ]
Shutting down loopback interface:  [  OK  ]
Bringing up loopback interface:  [  OK  ]
Bringing up interface eth0:  Active connection state: activating
Active connection path: /org/freedesktop/NetworkManager/ActiveConnection/5
state: activated
Connection activated
[  OK  ]
如果虚拟机是复制的这里你可能会遇到问题不能重启网络,你执行下ifconfig 找到正确的HWADDR地址,替换ifcfg-eth0里面的就可以重启了;
1.2修改hosts文件
vi /etc/hosts #文件尾添加如下内容
192.168.80.130 hdp01nn
192.168.80.131 hdp02dn
192.168.80.132 hdp03dn


2、生成SSH公共秘钥
2.1安装和配置
安装 yum -y install openssh*
2.2生成公共秘钥
cd $home\.ssh

生成秘钥
ssh-keygen -t rsa
#保存到authorized_keys
cat id_rsa.pub >> authorized_keys
#传递到所有的节点(同一目录和用户名,第一次需要输入root密码)
scp authorized_keys  root@hdp02dn:/root/.ssh/
#测试
ssh root@hdp02dn
不输入密码如果可以登陆表示配置成功
[root@hdp01nn sbin]# ssh root@hdp02dn

Last login: Fri Dec  5 14:20:14 2014 from 192.168.80.1

2.2关闭防火墙
#/etc/init.d/iptable stop  本次关闭
#chkconfig --level 35 iptables off  开机不启动防火墙



3、修改Hadoop配置文件
配置文件位于:hadoop-2.5.1/etc/hadoop打开后将对应内容复制到指定文件中
a)core-site.xml




	
		hadoop.tmp.dir
		/home/hadoop01/hdptmp
		Abase for other temporary directories.
	
	
		fs.defaultFS
		hdfs://hdp01nn:9000
	
	
		io.file.buffer.size
		4096
	



b)hdfs-site.xml




	
		dfs.nameservices
		hadoop-cluster1
	
	
		dfs.namenode.secondary.http-address
		hdp01nn:50090
	
	
		dfs.namenode.name.dir
		file:///home/hadoop01/dfs/name
	
	
		dfs.datanode.data.dir
		file:///home/hadoop/dfs/data
	
	
		dfs.replication
		1
	
	
		dfs.webhdfs.enabled
		true
	



c)mapred-site.xml





	
		mapreduce.framework.name
		yarn
	
	
		mapreduce.jobtracker.http.address
		hdp01nn:50030
	
	
		mapreduce.jobhistory.address
		hdp01nn:10020
	
	
		mapreduce.jobhistory.webapp.address
		hdp01nn:19888
	
 

d)yarn-site.xml


	
	
		yarn.nodemanager.aux-services
		mapreduce_shuffle
	
	
		yarn.resourcemanager.address
		hdp01nn:8032
	
	
		yarn.resourcemanager.scheduler.address
		hdp01nn:8030
	
	
		yarn.resourcemanager.resource-tracker.address
		hdp01nn:8031
	
	
		yarn.resourcemanager.admin.address
		hdp01nn:8033
	
	
		yarn.resourcemanager.webapp.address
		hdp01nn:8088
	


e)slaves
hdp02dn
hdp03dn

f)hadoop-env.sh和yarn-env.sh
找到第一个# export JAVA_HOME... 一行替换成如下内容(jdk地址是你自己的实际路径)
export JAVA_HOME=/usr/java/jdk1.7.0_65


4、复制hadoop到所有slave节点
scp -r /root/devtools/hadoop-2.5.2 root@hdp02dn:/root/devtools/

5、格式化namenode
bin/hdfs namenode -format

6、启动和停止
hadoop有时间心跳机制,所以集群要配置时间同步;如果你没配置记得一定要统一时区(cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime),统一系统时间(每个机器上执行:ntpdate time.windows.com);

sbin/start-all.sh
sbin/stop-all.sh


7、测试
7.1浏览器测试
需要在你实体机上 hosts文件中配置映射路径,如果没配置就直接通过ip地址访问
访问:http://hdp01nn:50070
VMware虚拟机搭建Hadoop集群_第2张图片
访问:http://hdp01nn:8088
VMware虚拟机搭建Hadoop集群_第3张图片
7.2使用jps命令查看hadoop进程
namenode运行:
[root@hdp01nn mapreduce]# jps
3850 NameNode
4193 ResourceManager
4581 Jps
slave运行:
[root@hdp02dn ~]# jps
3004 NodeManager
2901 DataNode
3773 Jps



  • VMware虚拟机搭建Hadoop集群_第4张图片
  • 大小: 61.8 KB
  • VMware虚拟机搭建Hadoop集群_第5张图片
  • 大小: 76.6 KB
  • VMware虚拟机搭建Hadoop集群_第6张图片
  • 大小: 112.2 KB
  • 查看图片附件

你可能感兴趣的:(hadoop,虚拟机)