Hadoop3.1.2 高可用安装Yarn (ResourceManager High Availability)

前提：在已经搭建好的高可用HDFS基础上。如若还没有完成请移步于此博客

一、介绍

  本指南概述了YARN ResourceManager的高可用性，并详细介绍了如何配置和使用此功能。ResourceManager（RM）负责跟踪集群中的资源，以及调度应用程序（例如，MapReduce作业）。在Hadoop 2.4之前，ResourceManager是YARN集群中的单点故障。高可用性功能以Active / Standby ResourceManager对的形式添加冗余，以消除此单点故障。

二、故障转移

  ResourceManager HA通过主动/备用架构实现 - 在任何时间点，其中一个RM处于活动状态，并且一个或多个RM处于待机模式，等待活动发生任何事情时接管。转换为活动的触发器来自管理员（通过CLI）或启用自动故障转移时的集成故障转移控制器。

手动转换和故障转移
  如果未启用自动故障转移，则管理员必须手动将其中一个RM转换为活动。要从一个RM故障转移到另一个RM，它们应首先将Active-RM转换为待机状态，并将Standby-RM转换为Active。所有这些都可以使用“ yarn rmadmin ”CLI完成。

自动故障转移
  RM可以选择嵌入基于Zookeeper的ActiveStandbyElector来决定哪个RM应该是Active。当Active关闭或无响应时，另一个RM自动被选为Active，然后接管。请注意，不需要像HDFS那样运行单独的ZKFC守护程序，因为嵌入在RM中的ActiveStandbyElector充当故障检测器和领导者选择器而不是单独的ZKFC守护程序。

RM故障转移上的客户端，ApplicationMaster和NodeManager
  当存在多个RMz时，客户端和节点使用的配置（yarn-site.xml）应该列出所有RM。客户端，ApplicationMaster（AM）和NodeManagers（NM）尝试以循环方式连接到RM，直到它们到达Active RM。如果活动停止，他们将恢复循环轮询，直到他们点击“新”活动。此默认重试逻辑实现为org.apache.hadoop.yarn.client.ConfiguredRMFailoverProxyProvider。您可以通过实现org.apache.hadoop.yarn.client.RMFailoverProxyProvider并将yarn.client.failover-proxy-provider的值设置为类名来覆盖逻辑。

三、恢复以前的active-RM状态

  随着ResourceManager的重新启用，RM被晋升为活动状态负载RM内部状态，并继续从以前的主动离开的地方尽可能多地取决于RM重启功能操作。为先前提交给RM的每个托管应用程序生成一个新尝试。应用程序可以定期检查点，以避免丢失任何工作。必须从两个活动/备用RM中可见状态存储。目前，有两种用于持久性的RMStateStore实现 - FileSystemRMStateStore和ZKRMStateStore。该ZKRMStateStore隐式允许在任何时间点对单个RM进行写访问，因此是在HA群集中使用的推荐存储。当使用ZKRMStateStore时，不需要单独的防护机制来解决潜在的裂脑情况，其中多个RM可能潜在地承担活动角色。使用ZKRMStateStore时，建议不要在Zookeeper群集上设置“ zookeeper.DigestAuthenticationProvider.superDigest”属性，以确保zookeeper admin无权访问YARN应用程序/用户凭据信息。

四、安装的节点服务器列表

节点服务器	NameNode01	NameNode02	DataNode	ZooKeeper	ZKFS	JournalNode	resourcemanager	nodemanager
node01	√				√	√
node02		√	√	√	√	√		√
node03			√	√		√	√	√
node04			√	√			√	√

五、部署

1. 修改/opt/hadoop-3.1.2/etc/hadoop/mapred-site.xml文件

   
   
   
   
   
   
   <configuration>
       
       <property>
           <name>mapreduce.framework.namename>
           <value>yarnvalue>
       property>
   
       
       <property>
           <name>mapreduce.jobhistory.addressname>
           <value>node01:10020value>
       property>
   
       
       <property>
           <name>mapreduce.jobhistory.webapp.addressname>
           <value>node01:19888value>
       property>
   
       <property>
         <name>mapreduce.application.classpathname>
         <value>
   		/opt/hadoop-3.1.2/etc/hadoop,
   		/opt/hadoop-3.1.2/share/hadoop/common/*,
   		/opt/hadoop-3.1.2/share/hadoop/common/lib/*,
   		/opt/hadoop-3.1.2/share/hadoop/hdfs/*,
   		/opt/hadoop-3.1.2/share/hadoop/hdfs/lib/*,
   		/opt/hadoop-3.1.2/share/hadoop/mapreduce/*,
   		/opt/hadoop-3.1.2/share/hadoop/mapreduce/lib/*,
   		/opt/hadoop-3.1.2/share/hadoop/yarn/*,
   		/opt/hadoop-3.1.2/share/hadoop/yarn/lib/*
         value>
       property>
   
   configuration>
   
   

2. 修改/opt/hadoop-3.1.2/etc/hadoop/yarn-site.xml文件

   
   
   <configuration>
   
   
       
       <property>
           <name>yarn.resourcemanager.ha.enabledname>
           <value>truevalue>
       property>
   
       
       <property>
           <name>yarn.resourcemanager.cluster-idname>
           <value>cluster1value>
       property>
   
       
       <property>
           <name>yarn.resourcemanager.ha.rm-idsname>
           <value>rm1,rm2value>
       property>
   
       
       <property>
           <name>yarn.resourcemanager.hostname.rm1name>
           <value>node03value>
       property>
   
       <property>
           <name>yarn.resourcemanager.hostname.rm2name>
           <value>node04value>
       property>
   
       <property>
           <name>yarn.resourcemanager.webapp.address.rm1name>
           <value>node03:8088value>
       property>
       
       <property>
           <name>yarn.resourcemanager.webapp.address.rm2name>
           <value>node04:8088value>
       property>
      
       
       <property>
           <name>yarn.resourcemanager.zk-addressname>
           <value>node02:2181,node03:2181,node04:2181value>
       property>
   
       <property>
           <name>yarn.nodemanager.aux-servicesname>
           <value>mapreduce_shufflevalue>
       property>
   
       <property>
           <name>yarn.log-aggregation-enablename>
           <value>truevalue>
       property>
   
       <property>
           <name>yarn.log-aggregation.retain-secondsname>
           <value>86400value>
       property>
   
       
       <property>
           <name>yarn.resourcemanager.recovery.enabledname>
           <value>truevalue>
       property>
   
       
       <property>
           <name>yarn.resourcemanager.store.classname>
           <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStorevalue>
       property>
       
       
       <property>
   		<name>yarn.nodemanager.vmem-check-enabledname>
   		<value>falsevalue>
       property>
   	
       <property>
   		<name>yarn.nodemanager.vmem-pmem-rationame>
   	  	<value>5value>
       property>
   
   configuration>
   

3. 向/opt/hadoop-3.1.2/etc/hadoop/hadoop-env.sh添加角色

   # JAVA
   export JAVA_HOME=/usr/java/jdk1.8.0_201-amd64
   
   # HDFS
   export HDFS_NAMENODE_USER=root
   export HDFS_DATANODE_USER=root
   # export HDFS_SECONDARYNAMENODE_USER=root
   export HDFS_ZKFC_USER=root
   export HDFS_JOURNALNODE_USER=root
   # export HADOOP_SECURE_DN_USER=hdfs
   export HDFS_DATANODE_SECURE_USER=hdfs
   
   #YARN
   export YARN_RESOURCEMANAGER_USER=root
   # export HADOOP_SECURE_DN_USER=yarn 
   export HDFS_DATANODE_SECURE_USER=yarn
   export YARN_NODEMANAGER_USER=root
   

4. 向其他节点(node02,node03,node04)发送配置信息

   scp mapred-site.xml yarn-site.xml node02:`pwd`
   scp mapred-site.xml yarn-site.xml node03:`pwd`
   scp mapred-site.xml yarn-site.xml node04:`pwd`
   

六、启动

Zookeeper -> JournalNode -> 格式化NameNode ->创建命名空间（zkfc） -> NameNode -> DataNode -> ResourceManager -> NodeManager。

1. 启动YARN
   在主备 resourcemanager 中随便选择一台进行启动

   start-yarn.sh
   

   若备用节点的 resourcemanager没有启动起来，则手动启动起来: yarn-daemon.sh start resourcemanager
2. 启动 mapreduce 任务历史服务器

   mr-jobhistory-daemon.sh start historyserver
   

七、查看启动状态

1. 查看Java运行中的进程

   # node01节点
   [root@node01 hadoop]# jps
   21715 NameNode
   22646 Jps
   21993 JournalNode
   2586 JobHistoryServer
   22173 DFSZKFailoverController
   
   # node02节点
   [root@node02 hadoop]# jps
   15730 DataNode
   15667 NameNode
   15989 NodeManager
   15798 JournalNode
   15863 DFSZKFailoverController
   1449 QuorumPeerMain
   16252 Jps
   
   # node03节点
   [root@node03 ~]# jps
   11362 JournalNode
   11939 Jps
   11555 NodeManager
   11300 DataNode
   1419 QuorumPeerMain
   11471 ResourceManager
   
   # node04节点
   [root@node04 ~]# jps
   9670 DataNode
   1418 QuorumPeerMain
   10027 Jps
   9742 ResourceManager
   9807 NodeManager
   
   

2. WEB界面进行查看
   a. HDFS: http://node01:50070
   
   b. YARN: http://node03:8088/cluster