Yarn的工作流程(mr提交应用程序)

Yarn的工作流程如下图:
Yarn的工作流程(mr提交应用程序)_第1张图片

1、 用户向Yarn提交应用程序,其中包括ApplicationMaster程序、启动ApplicationMaster的命令、用户程序等。
2、ResourceManager为该程序分配第一个Container,并与对应的NodeManager通信,要求它在对应的Container中启动应用程序的ApplicationMaster。
3、ApplicationMaster首先向ResourceManager注册,这样用户就可以通过ResourceManager查看应用程序的运行状态,然后它将为各个应用程序申请资源,并监控它们的运行状态,直到运行结束。即重复步骤4~7。
4、ApplicationMaster采用轮询的方式通过RPC协议向ResourceManager申请和领取资源。
5、一旦ApplicationMaster申请到资源后,便于对应的NodeManager通信,要求它启动任务。
6、NodeManager为任务设置好运行环境(包括环境变量、JAR包、二进制程序等),将任务启动命令写到一个脚本中,并运行这个脚本启动任务。
7、各个任务通过RPC协议向ApplicationMaster汇报自己的状态和进度,以此ApplicationMaster随时掌握每个任务的运行状态,从而可以在任务失败时重启任务。在应用程序运行过程中,用户可以随时通过RPC向ApplicationMaster查看任务的运行状态。
8、应用程序运行完成后,ApplicationMaster向ResourceManager注销并关闭自己。

当用户向Yarn提交一个应用程序后,Yarn将分为两个阶段运行该应用程序:
a 第一阶段是启动ApplicationMaster;
b 第二个阶段是由ApplicationMaster创建应用程序,为它申请资源,并监控它的运行状态,直到运行结束。

你可能感兴趣的:(Hadoop)