hadoop的补充配置与常用脚本

 

目录

历史服务器的配置：

添加配置：

分发集群：

日志聚集功能的配置：

添加配置：

分发配置给集群其他服务器：

集群的启动与停止：

整体启动和停止hdfs：

整体启动/停止YARN

启动与停止某个服务组件：

常用脚本：

脚本1-实现集群的启动和停止：

 脚本2-实现查看集群上所有服务器java进程脚本：

---

历史服务器的配置：

为了查看程序的历史运行情况，需要配置一下历史服务器

添加配置：

在mapred-site.xml问就按下添加配置

    mapreduce.jobhistory.address
    hadoop102:10020




    mapreduce.jobhistory.webapp.address
    hadoop102:19888

hadoop102:10020是表示历史服务器配置在那台服务器上，并且内部端口为10020（集群内部所用的访问端口）

hadoop102:19888是web端对外暴露的接口（外部用户访问的端口）

分发集群：

配置完成后需要分发同步到集群中其他服务器中

xsync $HADOOP_HOME/etc/hadoop/mapred-site.xml

在hadoop102启动历史服务器

mapred --daemon start historyserve

mapred --daemon 启动守护进程（或者是在后台启动）

start historyserve  是启动历史服务器

（启动历史服务器之前可以先关闭所有服务，在重启Hadoop服务，在启动历史服务器）

启动后 查看进程

 我们在mapred-site.xml中设置的对外端口号用于web访问

附加知识：

如何删除Hadoop HDFS中的目录：
 

hadoop fs -rm -r -skipTrash /目录名

日志聚集功能的配置：

日志聚集概念：应用运行完成后，将程序运行日志信息上传hdfs系统上

每个服务器上都有一个日志，你想看集群上的日志就需要对他进行聚集到hdfs上

日志聚集功能好处：可以方便的查看到程序运行详情，方便开发调试

 注意：开启日志聚集功能，需要重新启动NodeManager 、ResourceManager和HistoryServer。

添加配置：

在yarn-site.xml中添加

    yarn.log-aggregation-enable
    true


  
    yarn.log.server.url  
    http://hadoop102:19888/jobhistory/logs



    yarn.log-aggregation.retain-seconds
    604800

分发配置给集群其他服务器：

xsync $HADOOP_HOME/etc/hadoop/yarn-site.xml

关闭yarn服务和历史服务

stop-yarn.sh

mapred --daemon stop historyserver

重新启动：
 

start-yarn.sh

mapred --daemon start historyserver

注意：Hadoop中的输出目录是不能重使用的

进行验证：

执行命令：

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount /input /output

进入历史服务器：

进入日志（logs）：

集群的启动与停止：

整体启动和停止hdfs：

start-dfs.sh

stop-dfs.sh

整体启动/停止YARN

start-yarn.sh

stop-yarn.sh

启动与停止某个服务组件：

分别启动/停止hdfs组件：

启动namenode组件

hdfs --daemon start namenode

停止namenode组件：
 

hdfs --daemon stop namenode

 yarn组件同上

常用脚本：

脚本1-实现集群的启动和停止：

编写脚本实现集群的启动和停止

在bin目录下创建myhadoop.sh文件

输入shell脚本：

#!/bin/bash

if [ $# -lt 1 ]
then
    echo "No Args Input..."
    exit ;
fi

case $1 in
"start")
        echo " =================== 启动 hadoop集群 ==================="

        echo " --------------- 启动 hdfs ---------------"
        ssh hadoop102 "/opt/module/hadoop-3.1.3/sbin/start-dfs.sh"
        echo " --------------- 启动 yarn ---------------"
        ssh hadoop103 "/opt/module/hadoop-3.1.3/sbin/start-yarn.sh"
        echo " --------------- 启动 historyserver ---------------"
        ssh hadoop102 "/opt/module/hadoop-3.1.3/bin/mapred --daemon start historyserver"
;;
"stop")
        echo " =================== 关闭 hadoop集群 ==================="

        echo " --------------- 关闭 historyserver ---------------"
        ssh hadoop102 "/opt/module/hadoop-3.1.3/bin/mapred --daemon stop historyserver"
        echo " --------------- 关闭 yarn ---------------"
        ssh hadoop103 "/opt/module/hadoop-3.1.3/sbin/stop-yarn.sh"
        echo " --------------- 关闭 hdfs ---------------"
        ssh hadoop102 "/opt/module/hadoop-3.1.3/sbin/stop-dfs.sh"
;;
*)
    echo "Input Args Error..."
;;
esac

创建完毕后要对他的权限进行修改（赋予脚本执行权限），不然权限不足，不是可执行脚本

chmod +x myhadoop.sh

执行后

 脚本2-实现查看集群上所有服务器java进程脚本：

在bin目录下创建脚本文件 jpsall

#!/bin/bash

for host in hadoop102 hadoop103 hadoop104
do
        echo =============== $host ===============
        ssh $host jps 
done

当你新建集群   直接在hadoop104上添加主机名即可 

实现查看集群上所有服务器java进程脚本

直接输入jpsall就会直接执行脚本

jpsall

对bin目录进行分发：

xsync /home/你自己的家目录名称/bin/

实现集群同步