sxjlinux

ubuntu18.04 搭建hadoop完全分布式集群（Master、slave1、slave2）共三个节点

一、硬件配置以及操作系统：

所需要的机器以及操作系统：一台mac os笔记本、一台window笔记本（CPU双核四线程，内存8G），其中mac os用于远程操作，window笔记本装有虚拟机，虚拟出3个ubuntu18.04系统（配置CPU1个线程2个，内存1.5G，硬盘分配每个70G），对于mac os（可以用window机或者linux机）的配置没有要求

使用vm创建3个ubuntu18.04系统，一个主节点：master（NameNode）和两个从节点slave1（DataNode）和slave2（DataNode）
节点IP分配：主节点IP为：192.168.0.109、从节点1IP为：192.168.0.110、从节点2IP为：192.168.0.111
虚拟机的网络选择桥接模式与物理网络的网段相同，这样有助于远程连接。
master的主机名为：sunxj-hdm,slave1的主机名为：sunxj-hds1，slave2的主机名为：sunxj-hds2，如下图所示：
定义域名：sunxj-hdm.myhd.com(master)，sunxj-hds1.myhd.com(slave1)，sunxj-hds2.myhd.com(slave2)
配置hosts，将3台的hosts配置为：

192.168.0.109   sunxj-hdm.myhd.com
192.168.0.110   sunxj-hds1.myhd.com 
192.168.0.111   sunxj-hds2.myhd.com

如下图所示：

注意：不能放在最下边，从注释行开始往下是配置ipv6的，ip和域名之间必须是一个tab，且域名后不能有空格，否则是ping不通的，还有3个主机必须配置相同才能互ping。

7.然后使用如下命令进行重启网络

sudo /etc/init.d/networking restart

如下图所示：

8、然后通过ping sunxj-hds1.myhd.com查看是否可以ping的通，如果是通的则配置成功，如果不通需要在找原因了，如下图所示：

在master机ping slave1和slave2

在 slave1机ping master和slave2

在 slave2机ping master和slave1

二、节点需要安装的工具：

三个节点需要安装的工具为：vm-tool、gcc、net-tools、openssh-server、vsftpd、vim（用于ftp服务）

安装顺序：

(1)sudo apt install gcc

(2) 安装vm-tool

(3)sudo apt install net-tools

(4)sudo apt install vim

(5)sudo apt install openssh-server(可以使用/etc/init.d/ssh start 启动ssh)

(6)在安装好ssh后即可远程操作，在macos中打开终端进行ssh远程连接，如下图所示：

(7)安装ftp服务并配置vsftpd请看：https://blog.csdn.net/sunxiaoju/article/details/85224602

三、安装JDK环境

1、安装java，三台主机都需要安装，安装方法请看：https://blog.csdn.net/sunxiaoju/article/details/51994559

四、创建hadoop用户

1、在master节点上使用如下命令来创建hadoop用户

sudo adduser hadoop

如下图所示：

2、使用如命令把hadoop用户加入到hadoop用户组，前面一个hadoop是组名，后面一个hadoop是用户名

sudo usermod -a -G hadoop hadoop

如下图所示：

3、可以使用如下命令来查看结果

cat /etc/group |grep hadoop

如下图所示：

4、把hadoop用户赋予root权限，让他可以使用sudo命令，使用如下命令编辑

sudo vim /etc/sudoers

修改文件如下：

root ALL=(ALL) ALL 
hadoop ALL=(root) NOPASSWD:ALL

如下图所示：

修改前：

修改后：

5、用同样方法在slave1和slave2上创建hadoop用户。

五、建立ssh无密码登录本机

ssh生成密钥有rsa和dsa两种生成方式，默认情况下采用rsa方式。

1、首先用hadoop用户在master主机上创建ssh-key，这里我们采用rsa方式。使用如下命令(P是要大写的，后面跟""，表示无密码)

ssh-keygen -t rsa -P ""

如下图所示：

2、直接回车即可，然后就会生成相应的信息，如下图所示：

3、回车后会在~/.ssh/下生成两个文件：id_rsa和id_rsa.pub这两个文件是成对出现的，进入到该目录查看，如下图所示：

4、然后分别在slave1和slave2用同样的方法生成，然后分别用

scp id_rsa.pub [email protected]:/home/sunftp/ftpdir/slave1_id_rsa.pub
scp id_rsa.pub [email protected]:/home/sunftp/ftpdir/slave2_id_rsa.pub

将slave1和slave2的文件上传到master上，如下图所示：

5、使用如下指令，将上传到master上的slave1_id_rsa.pub和slave2_id_rsa.pub文件移动到~/.ssh/目录

sudo mv /home/sunftp/ftpdir/slave1_id_rsa.pub slave1_id_rsa.pub
sudo mv /home/sunftp/ftpdir/slave2_id_rsa.pub slave2_id_rsa.pub

如下图所示：

6、将id_rsa.pub、slave1_id_rsa.pub、slave2_id_rsa.pub追加到authorized_keys授权文件中，开始是没有authorized_keys文件的，只需要执行如下命令即可：

cat *.pub >>authorized_keys

如下图所示：

7、然后可以通过：ssh localhost测试本机无密码登录，如下图所示：

8、将master上的公钥拷贝到slave1和slave2上，使其master无密码登录slave1和slave2,首先将authorized_keys文件通过scp上传到slave1和slave2的/home/sunftp/ftpdir/目录中，使用如下命令来上传

scp authorized_keys [email protected]:/home/sunftp/ftpdir
scp authorized_keys [email protected]:/home/sunftp/ftpdir

，如下图所示：

9、此时在slave1和slave2上的/home/sunftp/ftpdir/目录中存在authorized_keys文件文件，如下图所示：

10、分别在两台slave机器上执行1~3部，然后如下命令将公钥拷贝到~/.ssh/目录中

cp /home/sunftp/ftpdir/authorized_keys ~/.ssh/authorized_keys

如下图所示：

11、使用：sudo chmod 664 authorized_keys 修改authorized_keys的权限，如下图所示：

12、然后在mstar上无密码登录slave1和slave2，如下图所示：

13、然后在slave1上无密码登录mstar和slave2，如下图所示：

14、然后在slave2上无密码登录slave1和mstar，如下图所示：

注意：如果无法登录请查看/home/下的用户权限是否是755，如果不是则无法登录的，我的slave1就是将/home/sunxj的权限设置为：777,只需要将sunxj设置为755即可，如下图所示：

12、到此就可以在master上无密码登录slave1和slave2了。

六、安装hadoop

1、首先从https://hadoop.apache.org/releases.html下载，如下版本：

2、这里选择hadoop2.7.7的Binary版本。

3、使用scp命令将下载好的hadoop上传到master，(此时的用户名也可以使用其他的用户配置)如下图所示：

4、使用如下命令解压

tar -xzvf hadoop-2.7.7.tar.gz将hadoop-2.7.7.tar.gz

如下图所示：

5、将hadoop-2.7.7移动到/usr/目录，如下图所示：

6、查看hadoop的目录，如下图所示：

7、在hadoop-2.7.7目录中一个hdfs目录和三个子目录，如

hadoop-2.7.3/hdfs
hadoop-2.7.3/hdfs/tmp
hadoop-2.7.3/hdfs/name
hadoop-2.7.3/hdfs/data

8、在hadoop-2.7.7/etc/目录中查看需要配置的文件有：

core-site.xml
hadoop-env.sh
hdfs-site.xml
mapred-site.xml.template
yarn-env.sh
yarn-site.xml
mapred-env.sh
slaves

如下图所示：

9、首先配置core-site.xml文件，使用如下命令打开

sudo vim etc/hadoop/core-site.xml

然后在中如下配置是读写sequence file 的 buffer size,可减少 I/O 次数。在大型的 Hadoop cluster，建议可设定为 65536 到 131072，默认值 4096.按照教程配置了131072：


   hadoop.tmp.dir
   file:/usr/hadoop-2.7.7/hdfs/tmp
   A base for other temporary directories.
 
 
  io.file.buffer.size
   131072
 
 
   fs.defaultFS
   hdfs://sunxj-hdm.myhd.com:9000

注意：第一个属性中的value和我们之前创建的/usr/hadoop-2.7.7/hdfs/tmp路径要一致。

如下图所示：

属性说明：

参数	属性值	解释
fs.defaultFS	NameNode URI	hdfs://host:port/
io.file.buffer.size	131072	SequenceFiles文件中.读写缓存size设定

fs.defaultFS //为masterIP地址，其实也可以使用主机名或者域名,这个属性用来指定namenode的hdfs协议的文件系统通信地址，可以指定一个主机+端口，也可以指定为一个namenode服务（这个服务内部可以有多台namenode实现ha的namenode服务）
o.file.buffer.size    //该属性值单位为KB，131072KB即为默认的64M,这个属性用来执行文件IO缓冲区的大小
hadoop.tmp.dir    //指定hadoop临时目录，前面用file:表示是本地目录。有的教程上直接使用/usr/local，我估计不加file:应该也可以。hadoop在运行过程中肯定会有临时文件或缓冲之类的，必然需要一个临时目录来存放，这里就是指定这个的。当然这个目录前面我们已经创建好了。




ha.zookeeper.quorum
dellserver01:2181,dellserver02:2181,dellserver03:2181,dellserver04:2181,dellserver05:2181

10、配置 hadoop-env.sh文件，用于配置jdk目录，使用如下命令打开

sudo vim etc/hadoop/hadoop-env.sh

然后将export JAVA_HOME=${JAVA_HOME}注释掉配置成具体的路径:export JAVA_HOME=/usr/jdk1.8.0_191，否则在运行时会提示找不到JAVA_HOME，如下图所示：

11、在mapred-env.sh加入JAVA_HOME，如下图所示：

12、在yarn-env.sh加入JAVA_HOME，如下图所示：

13、配置hdfs-site.xml，使用如下命令打开文件

sudo vim etc/hadoop/hdfs-site.xml

然后在中加入以下代码：

         
                 dfs.replication
                 2
         
         
                 dfs.namenode.name.dir
                 file:/usr/hadoop-2.7.7/hdfs/name
                 true
        
         
                 dfs.datanode.data.dir
                 file:/usr/hadoop-2.7.7/hdfs/data
                 true
         
         
                 dfs.namenode.secondary.http-address
                 sunxj-hdm.myhd.com:9001
         
         
                 dfs.webhdfs.enabled
                 true
         
         
                 dfs.permissions
                 false

注意：其中第二个dfs.namenode.name.dir和dfs.datanode.data.dir的value和之前创建的/hdfs/name和/hdfs/data路径一致；由于有两个从主机slave1、slave2，所以dfs.replication设置为2

如下图所示：

属性说明：

配置NameNode

参数	属性值	解释
dfs.namenode.name.dir	在本地文件系统所在的NameNode的存储空间和持续化处理日志	如果这是一个以逗号分隔的目录列表，然后将名称表被复制的所有目录，以备不时需。
dfs.namenode.hosts/ dfs.namenode.hosts.exclude	Datanodes permitted/excluded列表	如有必要，可以使用这些文件来控制允许数据节点的列表
dfs.blocksize	268435456	大型的文件系统HDFS块大小为256MB
dfs.namenode.handler.count	100	设置更多的namenode线程，处理从 datanode发出的大量RPC请求

配置DataNode

参数	属性值	解释
dfs.datanode.data.dir	逗号分隔的一个DataNode上，它应该保存它的块的本地文件系统的路径列表	如果这是一个以逗号分隔的目录列表，那么数据将被存储在所有命名的目录，通常在不同的设备。

14、复制mapred-site.xml.template文件，并命名为mapred-site.xml，使用如下命令拷贝

cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml

并编辑mapred-site.xml，在标签中添加以下代码：

 
                 mapreduce.framework.name
                 yarn
         
          
                mapreduce.jobhistory.address 
                sunxj-hdm.myhd.com:10020
        
        
                mapreduce.jobhistory.webapp.address 
                sunxj-hdm.myhd.com:19888

如下图所示：

属性说明：

参数	属性值	解释
mapreduce.framework.name	yarn	执行框架设置为 Hadoop YARN.
mapreduce.map.memory.mb	1536	对maps更大的资源限制的.
mapreduce.map.java.opts	-Xmx2014M	maps中对jvm child设置更大的堆大小
mapreduce.reduce.memory.mb	3072	设置 reduces对于较大的资源限制
mapreduce.reduce.java.opts	-Xmx2560M	reduces对 jvm child设置更大的堆大小
mapreduce.task.io.sort.mb	512	更高的内存限制，而对数据进行排序的效率
mapreduce.task.io.sort.factor	100	在文件排序中更多的流合并为一次
mapreduce.reduce.shuffle.parallelcopies	50	通过reduces从很多的map中读取较多的平行副本

15、配置yarn-site.xml，使用如下命令打开

sudo vim etc/hadoop/yarn-site.xml

然后在标签中添加以下代码：

        
                 yarn.resourcemanager.address
                 sunxj-hdm.myhd.com:18040
         
         
                 yarn.resourcemanager.scheduler.address
                 sunxj-hdm.myhd.com:18030
         
         
                 yarn.resourcemanager.webapp.address
                 sunxj-hdm.myhd.com:18088
         
         
                 yarn.resourcemanager.resource-tracker.address
                 sunxj-hdm.myhd.com:18025
         
         
                 yarn.resourcemanager.admin.address
                 sunxj-hdm.myhd.com:18141
         
         
                 yarn.nodemanager.aux-services
                 mapreduce_shuffle
         
         
                yarn.nodemanager.auxservices.mapreduce.shuffle.class
                 org.apache.hadoop.mapred.ShuffleHandler

如下图所示：

属性说明：

master节点配置ResourceManager 和 NodeManager:

参数	属性值	解释
yarn.resourcemanager.address	客户端对ResourceManager主机通过 host:port 提交作业	host:port
yarn.resourcemanager.scheduler.address	ApplicationMasters 通过ResourceManager主机访问host:port跟踪调度程序获资源	host:port
yarn.resourcemanager.resource-tracker.address	NodeManagers通过ResourceManager主机访问host:port	host:port
yarn.resourcemanager.admin.address	管理命令通过ResourceManager主机访问host:port	host:port
yarn.resourcemanager.webapp.address	ResourceManager web页面host:port.	host:port
yarn.resourcemanager.scheduler.class	ResourceManager 调度类（Scheduler class）	CapacityScheduler（推荐），FairScheduler（也推荐），orFifoScheduler
yarn.scheduler.minimum-allocation-mb	每个容器内存最低限额分配到的资源管理器要求	以MB为单位
yarn.scheduler.maximum-allocation-mb	资源管理器分配给每个容器的内存最大限制	以MB为单位
yarn.resourcemanager.nodes.include-path/ yarn.resourcemanager.nodes.exclude-path	NodeManagers的permitted/excluded列表	如有必要，可使用这些文件来控制允许NodeManagers列表

slave节点配置NodeManager

参数	属性值	解释
yarn.nodemanager.resource.memory-mb	givenNodeManager即资源的可用物理内存，以MB为单位	定义在节点管理器总的可用资源，以提供给运行容器
yarn.nodemanager.vmem-pmem-ratio	最大比率为一些任务的虚拟内存使用量可能会超过物理内存率	每个任务的虚拟内存的使用可以通过这个比例超过了物理内存的限制。虚拟内存的使用上的节点管理器任务的总量可以通过这个比率超过其物理内存的使用
yarn.nodemanager.local-dirs	数据写入本地文件系统路径的列表用逗号分隔	多条存储路径可以提高磁盘的读写速度
yarn.nodemanager.log-dirs	本地文件系统日志路径的列表逗号分隔	多条存储路径可以提高磁盘的读写速度
yarn.nodemanager.log.retain-seconds	10800	如果日志聚合被禁用。默认的时间（以秒为单位）保留在节点管理器只适用日志文件
yarn.nodemanager.remote-app-log-dir	logs	HDFS目录下的应用程序日志移动应用上完成。需要设置相应的权限。仅适用日志聚合功能
yarn.nodemanager.remote-app-log-dir-suffix	logs	后缀追加到远程日志目录。日志将被汇总到yarn.nodemanager.remoteapplogdir/yarn.nodemanager.remoteapplogdir/{user}/${thisParam} 仅适用日志聚合功能。
yarn.nodemanager.aux-services	mapreduce-shuffle	Shuffle service 需要加以设置的Map Reduce的应用程序服务

16、使用如下命令打开slaves文件

sudo vim etc/hadoop/slaves

把原本的localhost删掉，然后分别改为：sunxj-hds1.myhd.com，sunxj-hds2.myhd.com ，如下图所示：

17、配置hadoop环境变量，使用sudo vim /etc/profile打开文件，在末尾添加入下代码：

export HADOOP_HOME=/usr/hadoop-2.7.7
export PATH="$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH"
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop

如下图所示：

18、输入如下命令使配置立即生效

source /etc/profile

19、使用如下命令：

scp -r hadoop-2.7.7 [email protected]:/home/sunftp/ftpdir/

将hadoop-2.7.7传给slave1，如下图所示：

20、然后在slave1上将hadoop-2.7.7移动到usr目录，使用如下命令进行移动

sudo mv /home/sunftp/ftpdir/hadoop-2.7.7 /usr/

如下图所示：

21、用同样办法拷贝到slave2上。

22、在两个slave上执行16~17步。

23、在master主机上执行，此时使用hadoop用户登录通过如下命令进行格式化

hdfs namenode -format

此时会出现两个异常

8/12/25 00:45:19 WARN namenode.NameNode: Encountered exception during format:

java.io.IOException: Cannot remove current directory: /usr/hadoop-2.7.7/hdfs/name/current

at org.apache.hadoop.hdfs.server.common.Storage$StorageDirectory.clearDirectory(Storage.java:335)

at org.apache.hadoop.hdfs.server.namenode.NNStorage.format(NNStorage.java:564)

at org.apache.hadoop.hdfs.server.namenode.NNStorage.format(NNStorage.java:585)

at org.apache.hadoop.hdfs.server.namenode.FSImage.format(FSImage.java:179)

at org.apache.hadoop.hdfs.server.namenode.NameNode.format(NameNode.java:1015)

at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1457)

at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1582)

18/12/25 00:45:19 ERROR namenode.NameNode: Failed to start namenode.