Spark执行流程(详细)

大体执行流程
1.driver执行main方法(懒执行),action算子触发触发job
2.根据宽窄依赖划分stage
3.每个stage会被整理成taskset(包含多个task)4.每个task分发到具体的Executor去执行
完整调度流程
Spark执行流程(详细)_第1张图片

你可能感兴趣的:(大数据,spark)