配置hadoop的jobhistory服务器

参考:Hadoop jobhistory历史服务器介绍

jobhistory server是yarn集群跑的job的一些信息,不包含任务运行日志!,你可以将jobhistory server运行在slave机器上也行。

修改mapred-site.xml文件,修改如下内容:

<property>
 <name>mapreduce.jobhistory.address</name>
 <value>master:10020</value>
</property>
<property>
 <name>mapreduce.jobhistory.webapp.address</name>
 <value>master:19888</value>
</property>
<property>
 <name>mapreduce.jobhistory.done-dir</name>
 <value>/mapred/jobhistory/history/done</value>
</property>
<property>
 <name>mapreduce.jobhistory.intermediate-done-dir</name>
 <value>/mapred/jobhistory/history/done_intermediate</value>
</property>

重启hadoop,运行命令:

sbin/mr-jobhistory-daemon.sh start historyserver #启动historyserver
sbin/mr-jobhistory-daemon.sh stop historyserver #关闭historyserver

这样既启动了jobhistory service。

你可能感兴趣的:(配置hadoop的jobhistory服务器)