groupByKey与reduceByKey区别

用spark所写的程序中shuffer操作非常耗时,所以会有专门针对这个shuffer的优化,来提高效率,但是有时你必须进行一些带有shuffer的操作的算子,比如groupByKey和reduceByKey。这两个都是针对于元祖(key,value)类型的数据进行重排与聚合操作。

groupByKey:它是将RDD中相同的key值得数据(value)合并成为一序列,只能输出相同key值得序列。

reduceByKey:因为内部调用的combineByKey函数,会先进行局部聚合, 再进行全局聚合,(类似于mapreduce里的combine操作)这样会大大减少网络IO, 起到优化作用。
groupByKey与reduceByKey区别_第1张图片
而且reduceByKey里的计算逻辑可以自己定义例如:reduceByKey(_ + _)

所以一般能用reduceByKey就用reduceByKey

你可能感兴趣的:(spark)