spark内核揭秘-13-Worker中Executor启动过程源码分析

阅读更多

进入Worker类源码:

spark内核揭秘-13-Worker中Executor启动过程源码分析_第1张图片

 


可以看出Worker本身是Akka中的一个Actor。

 

进入Worker类的LaunchExecutor:

spark内核揭秘-13-Worker中Executor启动过程源码分析_第2张图片

spark内核揭秘-13-Worker中Executor启动过程源码分析_第3张图片

从源代码可以看出Worker节点上要分配CPU和Memory给新的Executor,首先需要创建一个ExecutorRunner:

ExecutorRunner是用于维护executor进程的:

 

 

1、进入ExecutorRunner 的start方法:

spark内核揭秘-13-Worker中Executor启动过程源码分析_第4张图片

1.1、进入fetchAndRunExecutor()方法(核心方法):

spark内核揭秘-13-Worker中Executor启动过程源码分析_第5张图片

spark内核揭秘-13-Worker中Executor启动过程源码分析_第6张图片

spark内核揭秘-13-Worker中Executor启动过程源码分析_第7张图片

2、进入 master ! ExecutorStateChanged(appId, execId, manager.state, None, None)方法:

发送消息给Master:

spark内核揭秘-13-Worker中Executor启动过程源码分析_第8张图片

spark内核揭秘-13-Worker中Executor启动过程源码分析_第9张图片

我们再回到到launchExecutor方法:

 

spark内核揭秘-13-Worker中Executor启动过程源码分析_第10张图片

进入ExecutorAdded方法:

spark内核揭秘-13-Worker中Executor启动过程源码分析_第11张图片

上面代码利用Akka 发送ExecutorStateChanged方法给Master

 

进入 Master 的ExecutorStateChanged方法:

spark内核揭秘-13-Worker中Executor启动过程源码分析_第12张图片

spark内核揭秘-13-Worker中Executor启动过程源码分析_第13张图片

PS:感觉代码分析的有点乱,不是很理想,希望大家知道,谢谢

进入Worker类的LaunchExecutor:

spark内核揭秘-13-Worker中Executor启动过程源码分析_第14张图片

spark内核揭秘-13-Worker中Executor启动过程源码分析_第15张图片

1、进入ExecutorRunner 的start方法:

spark内核揭秘-13-Worker中Executor启动过程源码分析_第16张图片

2、进入fetchAndRunExecutor()方法:

spark内核揭秘-13-Worker中Executor启动过程源码分析_第17张图片

spark内核揭秘-13-Worker中Executor启动过程源码分析_第18张图片

spark内核揭秘-13-Worker中Executor启动过程源码分析_第19张图片

你可能感兴趣的:(Worker,LaunchExecutor,ExecutorRunner,ExecutorAdded)