Hadoop学习指南：探索大数据时代的重要组成——Hadoop运行模式(下）
Hadoop运行模式(下）
- 前言
- 2.6 配置历史服务器
-
- 1）配置mapred-site.xml
- 2）分发配置
- 3）在hadoop102启动历史服务器
- 4）查看历史服务器是否启动
- 5）查看JobHistory
- 2.7 配置日志的聚集
-
- 1）配置yarn-site.xml
- 2）分发配置
- 3）关闭NodeManager 、ResourceManager和HistoryServer
- 4）启动NodeManager 、ResourceManage和HistoryServer
- 5）删除HDFS上已经存在的输出文件
- 6）执行WordCount程序
- 7）查看日志
-
- (1）历史服务器地址
- （2）历史任务列表
- （3）查看任务运行日志
- （4）运行日志详情
- 2.8 集群启动/停止方式总结
-
- 1）各个模块分开启动/停止（配置ssh是前提）常用
-
- （1）整体启动/停止HDFS
- （2）整体启动/停止YARN
- 2）各个服务组件逐一启动/停止
-
- （1）分别启动/停止HDFS组件
- （2）启动/停止YARN
- 2.9 编写Hadoop集群常用脚本
-
- 1）Hadoop集群启停脚本（包含HDFS，Yarn，Historyserver）：myhadoop.sh
- 2）查看三台服务器Java进程脚本：jpsall
- 3）分发/home/atguigu/bin目录，保证自定义脚本在三台机器上都可以使用
- 2.10 常用端口号说明
- 2.11 集群时间同步
-
- 1）需求
- 2）时间服务器配置（必须root用户）
-
- （1）查看所有节点ntpd服务状态和开机自启动状态
- （2）修改hadoop102的ntp.conf 配置文件
- （3）修改hadoop102的/etc/sysconfig/ntpd 文件
- （4）重新启动ntpd服务
- （5）设置ntpd服务开机启动
- 3）其他机器配置（必须root用户）
-
- （1）关闭==所有节点==上ntp服务和自启动
- （2）在其他机器配置1分钟与时间服务器同步一次
- （3）修改任意机器时间
- （4）1分钟后查看机器是否与时间服务器同步
- 常见错误及解决方案
-
- 1）防火墙没关闭、或者没有启动YARN
- 2）主机名称配置错误
- 3）IP 地址配置错误
- 4）ssh 没有配置好
- 5）root 用户和atguigu 两个用户启动集群不统一
- 6）配置文件修改不细心
- 7）不识别主机名称
- 8）DataNode 和NameNode 进程同时只能工作一个。
- 9）执行命令不生效，粘贴Word中命令时，遇到-和长–没区分开。导致命令失效
- 10）jps 发现进程已经没有，但是重新启动集群，提示进程已经开启。
- 11）jps 不生效
- 12）8088 端口连接不上
- 题外话
前言
接着上篇，我们继续学习Hadoop运行模式。
2.6 配置历史服务器
为了查看程序的历史运行情况，需要配置一下历史服务器。具体配置步骤如下：
1）配置mapred-site.xml
[atguigu@hadoop102 hadoop]$ vim mapred-site.xml
在该文件里面增加如下配置。
<!-- 历史服务器端地址 -->
<property>
<name>mapreduce.jobhistory.address</name>
<value>hadoop102:10020</value>
</property>
<!-- 历史服务器web端地址 -->
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>hadoop102:19888</value>
</property>
2）分发配置
[atguigu@hadoop102
hadoop]$
$HADOOP_HOME/etc/hadoop/mapred-site.xml
xsync
3）在hadoop102启动历史服务器
[atguigu@hadoop102 hadoop]$ mapred --daemon start historyserver
4）查看历史服务器是否启动
[atguigu@hadoop102 hadoop]$ jps
5）查看JobHistory
http://hadoop102:19888/jobhistory
2.7 配置日志的聚集
日志聚集概念：应用运行完成以后，将程序运行日志信息上传到HDFS系统上。
日志聚集功能好处：可以方便的查看到程序运行详情，方便开发调试。
==注意：开启日志聚集功能，需要重新启动 NodeManager 、ResourceManager 和
HistoryServer。 ==
开启日志聚集功能具体步骤如下：
1）配置yarn-site.xml
[atguigu@hadoop102 hadoop]$ vim yarn-site.xml
在该文件里面增加如下配置。
<!-- 开启日志聚集功能 -->
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<!-- 设置日志聚集服务器地址 -->
<property>
<name>yarn.log.server.url</name>
<value>http://hadoop102:19888/jobhistory/logs</value>
</property>
<!-- 设置日志保留时间为7天 -->
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>604800</value>
</property>
2）分发配置
[atguigu@hadoop102 hadoop]$ xsync $HADOOP_HOME/etc/hadoop/yarn
site.xml
3）关闭NodeManager 、ResourceManager和HistoryServer
[atguigu@hadoop103 hadoop-3.1.3]$ sbin/stop-yarn.sh
[atguigu@hadoop103
hadoop-3.1.3]$
mapred --daemon
stop
historyserver
4）启动NodeManager 、ResourceManage和HistoryServer
[atguigu@hadoop103 ~]$ start-yarn.sh
[atguigu@hadoop102 ~]$ mapred --daemon start historyserver
5）删除HDFS上已经存在的输出文件
[atguigu@hadoop102 ~]$ hadoop fs -rm -r /output
6）执行WordCount程序
[atguigu@hadoop102 hadoop-3.1.3]$ hadoop jar
share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar
wordcount /input /output
7）查看日志
(1）历史服务器地址
http://hadoop102:19888/jobhistory
（2）历史任务列表
（3）查看任务运行日志
（4）运行日志详情
2.8 集群启动/停止方式总结
1）各个模块分开启动/停止（配置ssh是前提）常用
（1）整体启动/停止HDFS
start-dfs.sh/stop-dfs.sh
（2）整体启动/停止YARN
start-yarn.sh/stop-yarn.sh
2）各个服务组件逐一启动/停止
（1）分别启动/停止HDFS组件
hdfs --daemon start/stop namenode/datanode/secondarynamenode
（2）启动/停止YARN
yarn --daemon start/stop resourcemanager/nodemanager
2.9 编写Hadoop集群常用脚本
1）Hadoop集群启停脚本（包含HDFS，Yarn，Historyserver）：myhadoop.sh
[atguigu@hadoop102 ~]$ cd /home/atguigu/bin
[atguigu@hadoop102 bin]$ vim myhadoop.sh
➢ 输入如下内容
#!/bin/bash
if [ $# -lt 1 ]
then
echo "No Args Input..."
exit ;
fi
case $1 in
"start")
echo " =================== 启动 hadoop集群 ==================="
echo " --------------- 启动 hdfs ---------------"
ssh hadoop102 "/opt/module/hadoop-3.1.3/sbin/start-dfs.sh"
echo " --------------- 启动 yarn ---------------"
ssh hadoop103 "/opt/module/hadoop-3.1.3/sbin/start-yarn.sh"
echo " --------------- 启动 historyserver ---------------"
ssh hadoop102 "/opt/module/hadoop-3.1.3/bin/mapred --daemon start
historyserver"
;;
"stop")
echo " =================== 关闭 hadoop集群 ==================="
echo " --------------- 关闭 historyserver ---------------"
ssh hadoop102 "/opt/module/hadoop-3.1.3/bin/mapred --daemon stop
historyserver"
echo " --------------- 关闭 yarn ---------------"
ssh hadoop103 "/opt/module/hadoop-3.1.3/sbin/stop-yarn.sh"
echo " --------------- 关闭 hdfs ---------------"
ssh hadoop102 "/opt/module/hadoop-3.1.3/sbin/stop-dfs.sh"
;;
*)
echo "Input Args Error..."
;;
esac
➢ 保存后退出，然后赋予脚本执行权限
[atguigu@hadoop102 bin]$ chmod +x myhadoop.sh
2）查看三台服务器Java进程脚本：jpsall
[atguigu@hadoop102 ~]$ cd /home/atguigu/bin
[atguigu@hadoop102 bin]$ vim jpsall
➢ 输入如下内容
#!/bin/bash
for host in hadoop102 hadoop103 hadoop104
do
echo =============== $host ===============
ssh $host jps
done
➢ 保存后退出，然后赋予脚本执行权限
[atguigu@hadoop102 bin]$ chmod +x jpsall
3）分发/home/atguigu/bin目录，保证自定义脚本在三台机器上都可以使用
[atguigu@hadoop102 ~]$ xsync /home/atguigu/bin/
2.10 常用端口号说明
| 端口名称 | Hadoop2.x | Hadoop3.x |
|---|---|---|
| NameNode内部通信端口 | 8020 / 9000 | 8020 / 9000/9820 |
| NameNode HTTP UI | 50070 | 9870 |
| MapReduce查看执行任务端口 | 8088 | 8088 |
| 历史服务器通信端口 | 19888 | 19888 |
2.11 集群时间同步
如果服务器在公网环境（能连接外网），可以不采用集群时间同步，因为服务器会定期和公网时间进行校准；
如果服务器在内网环境，必须要配置集群时间同步，否则时间久了，会产生时间偏差，导致集群执行任务时间不同步。
1）需求
找一个机器，作为时间服务器，所有的机器与这台集群时间进行定时的同步，生产环境根据任务对时间的准确程度要求周期同步。测试环境为了尽快看到效果，采用1分钟同步一次。
2）时间服务器配置（必须root用户）
（1）查看所有节点ntpd服务状态和开机自启动状态
[atguigu@hadoop102 ~]$ sudo systemctl status ntpd
[atguigu@hadoop102 ~]$ sudo systemctl start ntpd
[atguigu@hadoop102 ~]$ sudo systemctl is-enabled ntpd
（2）修改hadoop102的ntp.conf 配置文件
[atguigu@hadoop102 ~]$ sudo vim /etc/ntp.conf
修改内容如下
（a）修改1（授权192.168.10.0-192.168.10.255 网段上的所有机器可以从这台机器上查
询和同步时间）
#restrict 192.168.10.0 mask 255.255.255.0 nomodify notrap
为restrict 192.168.10.0 mask 255.255.255.0 nomodify notrap
（b）修改2（集群在局域网中，不使用其他互联网上的时间）
server 0.centos.pool.ntp.org iburst
server 1.centos.pool.ntp.org iburst
server 2.centos.pool.ntp.org iburst
server 3.centos.pool.ntp.org iburst
为
#server 0.centos.pool.ntp.org iburst
#server 1.centos.pool.ntp.org iburst
#server 2.centos.pool.ntp.org iburst
#server 3.centos.pool.ntp.org iburst
（c）添加3（当该节点丢失网络连接，依然可以采用本地时间作为时间服务器为集群中
的其他节点提供时间同步）
server 127.127.1.0
fudge 127.127.1.0 stratum 10
（3）修改hadoop102的/etc/sysconfig/ntpd 文件
[atguigu@hadoop102 ~]$ sudo vim /etc/sysconfig/ntpd
增加内容如下（让硬件时间与系统时间一起同步）
SYNC_HWCLOCK=yes
（4）重新启动ntpd服务
[atguigu@hadoop102 ~]$ sudo systemctl start ntpd
（5）设置ntpd服务开机启动
[atguigu@hadoop102 ~]$ sudo systemctl enable ntpd
3）其他机器配置（必须root用户）
（1）关闭所有节点上ntp服务和自启动
[atguigu@hadoop103 ~]$ sudo systemctl stop ntpd
[atguigu@hadoop103 ~]$ sudo systemctl disable ntpd
[atguigu@hadoop104 ~]$ sudo systemctl stop ntpd
[atguigu@hadoop104 ~]$ sudo systemctl disable ntpd
（2）在其他机器配置1分钟与时间服务器同步一次
[atguigu@hadoop103 ~]$ sudo crontab -e
编写定时任务如下：
*/1 * * * * /usr/sbin/ntpdate hadoop102
（3）修改任意机器时间
[atguigu@hadoop103 ~]$ sudo date -s "2021-9-11 11:11:11"
（4）1分钟后查看机器是否与时间服务器同步
[atguigu@hadoop103 ~]$ sudo date
常见错误及解决方案
1）防火墙没关闭、或者没有启动YARN
INFO client.RMProxy: Connecting to ResourceManager at hadoop108/192.168.10.108:8032
2）主机名称配置错误
3）IP 地址配置错误
4）ssh 没有配置好
5）root 用户和atguigu 两个用户启动集群不统一
6）配置文件修改不细心
7）不识别主机名称
java.net.UnknownHostException: hadoop102: hadoop102
at
java.net.InetAddress.getLocalHost(InetAddress.java:1475)
at
org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(Job
Submitter.java:146)
at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1290)
at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1287)
at
java.security.AccessController.doPrivileged(Native
Method)
at javax.security.auth.Subject.doAs(Subject.java:415)
解决办法：
（1）在/etc/hosts 文件中添加192.168.10.102 hadoop102
（2）主机名称不要起hadoop hadoop000等特殊名称
8）DataNode 和NameNode 进程同时只能工作一个。
9）执行命令不生效，粘贴Word中命令时，遇到-和长–没区分开。导致命令失效
解决办法：尽量不要粘贴Word中代码。
10）jps 发现进程已经没有，但是重新启动集群，提示进程已经开启。
原因是在 Linux 的根目录下/tmp 目录中存在启动的进程临时文件，将集群相关进程删
除掉，再重新启动集群。
11）jps 不生效
原因：全局变量hadoop java没有生效。解决办法：需要source /etc/profile文件。
12）8088 端口连接不上
[atguigu@hadoop102 桌面]$ cat /etc/hosts
注释掉如下代码
#127.0.0.1
#::1
localhost localhost.localdomain localhost4 localhost4.localdomain4
hadoop102
题外话
我整理了一些资源，如果你也对Python和大数据感兴趣，关注下方公众号免费提取资料。
