Flink任务提交流程

高层模式
Flink任务提交流程_第1张图片
1.客户端提交应用
2.分发器就会启动并将应用提交给一个JobManager
3.JobManager向ResourceManager申请slots
4.ResourceManager启动TaskManager
5.TaskManager启动后向ResourceManager注册slots
6.ResourceManager向TaskManager发出提供slot的指令
7.TaskManager向JobManager提供slots
8.JobManager在TaskManager提供的slots中提交要执行的任务
9.在执行任务过程中TaskManager之间交互数据

YARN-PER-JOB模式
Flink任务提交流程_第2张图片
1.Flink 任务提交后, Client 向 HDFS上传 Flink 的 Jar 包和配置
2. 向 Yarn ResourceManager 提交任务
3.ResourceManager分配Container源并通知对应的NodeManager启动 ApplicationMaster,ApplicationMaster启动后加载Flink的Jar包和配置构建环境,然后启动 JobManager
4.ApplicationMaster向ResourceManager申请资源启动 TaskManager
5.ResourceManager分配Container资源后,由 ApplicationMaster 通知资源所在节点的 NodeManager启动TaskManager, NodeManager加载Flink的Jar包和配置构建环境并启动 TaskManager,TaskManager 启动后向 JobManager 发送心跳包,并等待 JobManager 向其分配任务。

你可能感兴趣的:(flink,flink)