Spark-任务怎么切分

(1)Application:初始化一个SparkContext即生成一个Application;
(2)Job:一个Action算子就会生成一个Job;
(3)Stage:Stage等于宽依赖的个数加1;
(4)Task:一个Stage阶段中,最后一个RDD的分区个数就是Task的个数。

Spark-任务怎么切分_第1张图片

 

你可能感兴趣的:(Spark,spark,大数据,分布式)