hadoop学习第二天~Hadoop2.6.5完全分布式集群搭建和测试

文章参考：http://blog.csdn.net/xiaoxiangzi222/article/details/52757168

环境配置：

    系统 centos7
    节点
    192.168.1.111 namenode
    192.168.1.115 datanode2
    192.168.1.116 datanode3

java 环境 : jdk-8u101-Linux-x64.gz
hadoop 版本 : hadoop-2.6.5

安装步骤

1.安装虚拟机系统，并进行准备工作（可安装一个然后克隆）

请自行百度，需要设置固定ip

2.修改各个虚拟机的hostname和host

#修改hostname的指令：
sudo gedit /etc/hostname
#修改hosts指令：
sudo vi /etc/hosts

#将以下内容添加到hosts中
192.168.1.111    namenode
192.168.1.115    datanode2
192.168.1.116    datanode3

3.创建用户组和用户

创建hadoop 用户组和用户
sudo groupadd  hadoop
useradd -g haddoop hadoop
编辑权限
sudo vi /etc/sudoers
在root  ALL=(ALL:ALL)  ALL下添加
hadoop  ALL=(ALL:ALL)  ALL

4、配置虚拟机网络，使虚拟机系统之间以及和host主机之间可以通过相互ping通。

分别以刚刚创建的hadoop用户重新登录系统，以后的操作都以hadoop用户登录。

ping +主机名
ping datanode2
ping datenode3

5.安装jdk和配置环境变量，检查是否配置成功

1）下载jdk安装包（自行百度），并将安装包拖入到虚拟机当中

2）通过cd命令进入到安装包的当前目录，利用如下命令进行解压缩。

tar -zxvf jdk.....(安装包名称)
3）利用如下命令将解压后的文件夹移到/usr目录下　

注意，这样移动到/usr以后就没有jdk1.8...这个目录了，是将这个目录下的所有文件全部移动到/usr/java下，
mv jdk1.8...(文件夹名称) /usr/java

4）配置环境变量
vi /etc/profile
JAVA_HOME=/usr/java/jdk1.8.0_101
CLASSPATH=$JAVA_HOME/lib/
PATH=$PATH:$JAVA_HOME/bin
export PATH JAVA_HOME CLASSPATH

6、配置ssh，实现节点间的无密码登录 ssh node1/2指令验证时候成功

在各个节点上执行
ssh-keygen -t rsa
在namenode
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

上传到各个datanode节点
scp authorized_keys root@datanode2:~/.ssh/authorized_keys
scp authorized_keys root@datanode3:~/.ssh/authorized_keys


修改各台主机上authorized_keys文件的权限：
所有机器上，均执行命令：
chmod 600 .ssh/authorized_keys

检查是否能免密登录到各个节点
ssh datanode2
ssh datanode3 

7、master配置hadoop，并将hadoop文件传输到node节点

1）解包移动
#解压hadoop包  
tar -zxvf hadoop...  
#将安装包移到/usr目录下  
mv hadoop... /usr/local/hadoop-2.6.5
2）新建文件夹
#在/usr/local/hadoop目录下新建如下目录(root)
mkdir dfs  
mkdir dfs/name  
mkdir dfs/data  
mkdir tmp 

3)配置文件：hadoop-env.sh(文件都在/usr/hadoop/etc/hadoop中)
修改JAVA_HOME值（export JAVA_HOME=/usr/java） 

4)配置文件：yarn-env.sh
修改JAVA_HOME值（export JAVA_HOME=/usr/java）

5)配置文件：slaves
将内容修改为：
datanode2
datanode3

6)配置文件：core-site.xml

<configuration>
 <property>
        <name>fs.defaultFSname>
        <value>hdfs://namenode:9000value>
    property>

<property>
        <name>io.file.buffer.sizename>
        <value>131072value>
    property>
    <property>
        <name>hadoop.tmp.dirname>
        <value>file:/usr/local/hadoop-2.6.5/tmpvalue>
        <description>Abase for other temporary   directories.description>
    property>
configuration>


7)配置文件：hdfs-site.xml
<configuration>
       <property>
                <name>dfs.namenode.secondary.http-addressname>
               <value>namenode:9001value>
       property>
       <property>
             <name>dfs.namenode.name.dirname>
             <value>file:/usr/local/hadoop-2.6.5/dfs/namevalue>
       property>
       <property>
              <name>dfs.datanode.data.dirname>
              <value>file:/usr/local/hadoop-2.6.5/dfs/datavalue>
       property>
       <property>
               <name>dfs.replicationname>
               <value>2value>
        property>
       <property>
                 <name>dfs.webhdfs.enabledname>
                  <value>truevalue>
       property>
configuration>

8)配置文件：mapred-site.xml

先创建然后编辑
 cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml

vi etc/hadoop/mapred-site.xml
<configuration>  
          <property>                                                                    
　　　　　　　　<name>mapreduce.framework.namename>  
                <value>yarnvalue>  
           property>  
          <property>  
                  <name>mapreduce.jobhistory.addressname>  
                  <value>namenode:10020value>  
          property>  
          <property>  
                <name>mapreduce.jobhistory.webapp.addressname>  
                <value>namenode:19888value>  
       property>  
configuration>  


9)配置文件：yarn-site.xml

<configuration>  
        <property>  
               <name>yarn.nodemanager.aux-servicesname>  
               <value>mapreduce_shufflevalue>  
        property>  
 <property>                                                            <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class
name>      <value>org.apache.hadoop.mapred.ShuffleHandlervalue>  
        property>  
        <property>  
               <name>yarn.resourcemanager.addressname>  
               <value>namenode:8032value>  
       property>  
       <property>  
               <name>yarn.resourcemanager.scheduler.addressname>  
               <value>namenode:8030value>  
       property>  
       <property>  
            <name>yarn.resourcemanager.resource-tracker.addressname>  
             <value>namenode:8031value>  
      property>  
      <property>  
              <name>yarn.resourcemanager.admin.addressname>  
               <value>namenode:8033value>  
       property>  
       <property>  
               <name>yarn.resourcemanager.webapp.addressname>  
               <value>namenode:8088value>  
       property>  
configuration>  

10)将hadoop-2.6.5传输到datanode2和datanode3 usr/local/hadoop-2.6.5目录,（如果传输时报错说 ：权限拒绝，先把文件传送到非/usr目录下，然后在node上把这个文件再移动到/usr/local/hadoop-2.6.5）
scp -r /usr/local/hadoop-2.6.5 hadoop@datanode2:/usr/local/hadoop-2.6.5

11）配置环境变量
#编辑/etc/profile
sudo vi /etc/profile
#以上已经添加过java的环境变量,在后边添加就可以
#hadoop  
export HADOOP_HOME=/usr/local/hadoop-2.6.5 
export PATH=$PATH:$HADOOP_HOME/sbin  
export PATH=$PATH:$HADOOP_HOME/bin 

执行 
source /etc/profile

12）启动hadoop,进入hadoop安装目录 

bin/hdfs namenode -format
sbin/start-all.sh

13)启动后分别在master, node下输入jps查看进程
看到下面的结果，则表示成功。

8、配置环境变量，并启动hadoop，检查是否安装成功，执行wordcount检查是否成功。

进入本地hadoop目录（/usr/hadoop）

1、  bin/hdfs dfs -mkdir -p /data/input在虚拟分布式文件系统上创建一个测试目录/data/input

2、  hdfs dfs -put README.txt  /data/input  将当前目录下的README.txt 文件复制到虚拟分布式文件系统中

3、  bin/hdfs dfs-ls /data/input    查看文件系统中是否存在我们所复制的文件

4、  运行如下命令向hadoop提交单词统计任务

进入jar文件目录，执行下面的指令。

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.5.jar wordcount /data/input /data/output/result
查看result，结果在result下面的part-r-00000中

hdfs dfs -cat /data/output/result/part-r-00000