Spark 启动分析

Spark启动分析


Spark进程 :

Master: 负责集群资源分配. 当Client请求资源时将请求分配给某个Worker

Worker: 负责当前节点资源分配. 当收到Master的LaunchExecutor命令时分配资源,启动Executor

ExecutorBackend: 负责执行计算任务. 由Worker启动. 分为MesosExecutorBackend 和 StandaloneExecutorBackend, 分别是使用mesos启动或者直接fork进程


简单流程如下图所示:

Spark 启动分析_第1张图片


Spark job 执行序列图如下:

Spark 启动分析_第2张图片




你可能感兴趣的:(Spark 启动分析)