MapReduce中combine、partition、shuffle的作用是什么

http://www.aboutyun.com/thread-8927-1-1.html Mapreduce在hadoop中是一个比较难以的概念。下面需要用心看，然后自己就能总结出来了。 概括： combine和partition都是函数，中间的步骤应该只有shuffle！ 1.combine combine分为map端和reduce端，作用是把同一个key的键值对合并在一起，可以自定义的。 combine函数把一个map函数产生的对（多个key,value）合并成一个新的.将新的作为输入到reduce函数中 这个value2亦可称之为values，因为有多个。这个合并的目的是为了减少网络传输。 具体实现是由Combine类。 实现combine函数，该类的主要功能是合并相同的key键，通过job.setCombinerClass()方法设置，默认为null，不合并中间结果。实现map函数 具体调用：（下图是调用reduce，合并map的个数） 难点：不知道这个reduce和mapreduce中的reduce区别是什么? 下面简单说一下：后面慢慢琢磨： 在mapreduce中，map多，reduce少。 在reduce中由于数据量比较多，所以干脆，我们先把自己map里面的数据归类，这样到了reduce的时候就减轻了压力。 这里举个例子： map与reduce的例子 map理解为销售人员，reduce理解为销售经理。 每个人（map）只管销售,赚了多少钱销售人员不统计，也就是说这个销售人员没有Combine，那么这个销售经理就累垮了，因为每个人都没有统计，它需要统计所有人员卖了多少件，赚钱了多少钱。 这样是不行的，所以销售经理（reduce）为了减轻压力，每个人（map）都必须统计自己卖了多少钱，赚了多少钱（Combine），然后经理所做的事情就是统计每个人统计之后的结果。这样经理就轻松多了。所以Combine在map所做的事情，减轻了reduce的事情。 （这就是为什么说map的Combine干reduce的事情，相信你应该明白了） public  static void main(String[] args)throws IOException {         Configuration conf = new Configuration();         Job job = new Job(conf);         job.setInputFormatClass(TextInputFormat.class);         job.setMapperClass(Mapper.class);         job.setCombinerClass(reduce.class);         job.setPartitionerClass(HashPartitioner.class);         job.setReducerClass(Reducer.class);         job.setOutputFormatClass(TextOutFormat.class);     } } 2.partition partition是分割map每个节点的结果，按照key分别映射给不同的reduce，也是可以自定义的。这里其实可以理解归类。 我们对于错综复杂的数据归类。比如在动物园里有牛羊鸡鸭鹅，他们都是混在一起的，但是到了晚上他们就各自牛回牛棚，羊回羊圈，鸡回鸡窝。partition的作用就是把这些数据归类。只不过在写程序的时候，mapreduce使用哈希HashPartitioner帮我们归类了。这个我们也可以自定义。         HashPartitioner是mapreduce的默认partitioner。计算方法是 which reducer=(key.hashCode() & Integer.MAX_VALUE) % numReduceTasks，得到当前的目的reducer。 下面在看该如何自定义，该如何调用：（下面便是自定义了一个Partition函数，红字部分是算法的核心，也就是分区的核心） public static class Partition extends Partitioner {                 @Override                 public int getPartition(IntWritable key, IntWritable value,                                 int numPartitions) {                         int Maxnumber = 65223;                         int bound = Maxnumber / numPartitions + 1;                         int keynumber = key.get();                         for (int i = 0; i < numPartitions; i++) {                                 if (keynumber < bound * i && keynumber >= bound * (i - 1)) {                                         return i - 1;                                 }                         }                         return 0;                 }         } 那么我们该如何调用：(下面调用之后，你的分区函数就生效了) public static void main(String[] args) throws IOException, InterruptedException, ClassNotFoundException { Configuration conf = new Configuration(); Job job = new Job(conf, "sort"); job.setJarByClass(Sort.class); job.setMapperClass(Map.class); job.setReducerClass(Reduce.class); job.setPartitionerClass(Partition.class); job.setOutputKeyClass(IntWritable.class); job.setOutputValueClass(IntWritable.class); FileInputFormat.setInputPaths(job, "/home/asheng/hadoop/in"); FileOutputFormat .setOutputPath(job, new Path("/home/asheng/hadoop/out")); job.waitForCompletion(true); } } 3.shuffle shuffle就是map和reduce之间的过程，包含了两端的combine和partition。它比较难以理解，因为我们摸不着，看不到它，它只是理论存在的，而且确实存在，它属于mapreduce的框架，编程的时候，我们用不到它，它属于mapreduce框架。详细可以看 通过实例让你真正明白mapreduce---填空式、分布（分割）编程。 3.1shuffle的作用是 Map的结果，会通过partition分发到Reducer上，Reducer做完Reduce操作后，通过OutputFormat，进行输出 shuffle阶段的主要函数是fetchOutputs(),这个函数的功能就是将map阶段的输出，copy到reduce 节点本地。

作者：MrCharles 发表于2016/1/4 21:48:40 原文链接

阅读：0 评论：0 查看评论