Hadoop之YARN学习总结之架构

一、yarn产生背景

        YARN是Hadoop 2.0中的资源管理系统，它的基本设计思想是将MRv1中的JobTracker拆分成了两个独立的服务：一个全局的资源管理器ResourceManager和每个应用程序特有的ApplicationMaster。其中ResourceManager负责整个系统的资源管理和分配，而ApplicationMaster负责单个应用程序的管理。

       YARN总体上仍然是master/slave结构，在整个资源管理框架中，resourcemanager为master，nodemanager是slave。Resourcemanager负责对各个nademanger上资源进行统一管理和调度。当用户提交一个应用程序时，需要提供一个用以跟踪和管理这个程序的ApplicationMaster，它负责向ResourceManager申请资源，并要求NodeManger启动可以占用一定资源的任务。由于不同的ApplicationMaster被分布到不同的节点上，因此它们之间不会相互影响。

     YARN的基本组成结构，YARN主要由ResourceManager、NodeManager、ApplicationMaster和Container等几个组件构成。

      ResourceManager是Master上一个独立运行的进程，负责集群统一的资源管理、调度、分配等等；NodeManager是Slave上一个独立运行的进程，负责上报节点的状态；App Master和Container是运行在Slave上的组件，Container是yarn中分配资源的一个单位，包涵内存、CPU等等资源，yarn以Container为单位分配资源。

       Client向ResourceManager提交的每一个应用程序都必须有一个Application Master，它经过ResourceManager分配资源后，运行于某一个Slave节点的Container中，具体做事情的Task，同样也运行与某一个Slave节点的Container中。RM，NM，AM乃至普通的Container之间的通信，都是用RPC机制。

     YARN的架构设计使其越来越像是一个云操作系统，数据处理操作系统。

1) 源于MRv1的缺陷：扩展性受限、单点故障、难以支持MR之外的计算框架；

2) 多计算框架各自为战，数据共享困难，资源利用率低；

　　MR: 离线计算框架
　　Storm：实时计算框架
　　Spark：内存计算框架

催生了YARN的产生

二、yarn架构

1、ResourceManager:RM

    RM是一个全局的资源管理器，集群只有一个（通常生产上会做高可用，有一主一备两个RM），负责整个系统的资源管理和分配，包括处理客户端请求、启动/监控ApplicationMaster、监控nodemanager、资源的分配与调度。它主要由两个组件构成：调度器（Scheduler）和应用程序管理器（Applications Manager，ASM）。

2、NodeManager:NM

    整个集群中有多个，负责自己本身节点的资源管理和使用

    定时向RM汇报本身节点的资源使用情况

    接收并处理来自RM的各种命令：例如启动Container。Nodemanager管理着抽象容器，这些抽象容器代表着一些特定程序使用针对每个节点的资源。Nodemanager定时地向RM汇报本节点上的资源使用情况和各个Container的运行状态（cpu和内存等资源）

    处理来自AM的命令

    单个节点的资源管理

3、ApplicationMaster:AM

   管理YARN内运行的应用程序的每个实例。

   每个应用程序对应一个：例如MR、Spark；负责应用程序的管理，为应用程序向RM申请资源（如core,memory 等）分配给task

   需要跟NM通信:启动/停止task。Task和AM都是运行在container里面。

4、Container

    Container是YARN中的资源抽象，它封装了某个节点上的多维度资源，如内存、CPU、磁盘、网络等，当AM向RM申请资源时，RM为AM返回的资源便是用Container表示的。YARN会为每个任务分配一个Container，且该任务只能使用该Container中描述的资源。它是一个动态资源划分单位，是根据应用程序的需求动态生成的。

三、YARN的执行流程：

1、用户向YARN中提交应用程序，其中包括ApplicationMaster（AM）程序，启动AM的命令，用户程序等。
2、ResourceManger(RM)为该程序分配第一个Container，并与对应的NodeManger通讯，要求它在这个Container
中启动应用程序AM。
3、AM首先向RM注册，这样用户可以直接通过RM查看应用程序的运行状态，然后将为各个任务申请资源，并监控
它的运行状态，直到运行结束，重复4--7的步骤。
4、AM采用轮询的方式通过RPC协议向RM申请和领取资源。
5、一旦AM申请到资源后，便与对应的NM通讯，要求它启动任务。
6、NM为任务设置好运行环境（包括环境变量、JAR包、二进制程序等）后，将任务启动命令写到一个脚本中，并通过
运行该脚本启动任务。
7、各个任务通过某个RPC协议向AM汇报自己的状态和进度，以让AM随时掌握各个任务的运行状态，从而可以在任务
失败的时候重新启动任务。
8、应用程序运行完成后，AM向RM注销并关闭自己。