MapReduce中的排序

在map阶段的最后,

首先调用job.setPartitionerClass对Map输出的List进行分区(partition),每个分区映射到一个reducer。每个分区内又调用job.setSortComparatorClass设置的key比较函数类排序。可以看到,这本身就是一个二次排序。如果没有通过job.setSortComparatorClass设置key比较函数类,则使用key的实现的compareTo方法。在第一个例子中,使用了IntPair实现的compareTo方法,而在下一个例子中,专门定义了key比较函数类。

在reduce阶段,

reducer接收到所有映射到这个reducer的map输出后,也是会调用job.setSortComparatorClass设置的key比较函数类对所有数据对排序。然后开始构造一个key对应的value迭代器。这时就要用到分组,使用jobjob.setGroupingComparatorClass设置的分组函数类。只要这个比较器比较的两个key相同,他们就属于同一个组,它们的value放在一个value迭代器,而这个迭代器的key使用属于同一个组的所有key的第一个key。最后就是进入Reducer的reduce方法。

 

总结:

在map阶段的后期,使用setPartitionerClass进行分区,每个分区中的record需要进行排序,

在reduce阶段,每个reducer接受到的record需要进行排序,排序之后再使用setGroupingComparatorClass进行分组。

 

原文:

http://blog.csdn.net/HEYUTAO007/article/details/5890103

你可能感兴趣的:(mapreduce,list)