MR执行流程详解

1 MR 切片机制 & MR全流程

https://blog.csdn.net/javastart/article/details/52903124

2 MR执行流程详解

https://blog.csdn.net/Milkcoffeezhu/article/details/80551586

3 MR 切片逻辑

https://blog.csdn.net/qq_38250124/article/details/79731853

每个切片对应一个maptask,由fileinputformat的getsplits()方法完成
首先  获得hdfs待处理文件的路径,setinputpath,
遍历路径下的文件,获取文件的大小,
与默认block大小128M相比较
超过默认值,则切下128M,即满128M切为一块,到最后不满128M自己为一块,
大体将切片规划写入一个文件,然后传给yarn,启动mrappmaster执行
 

4 Hadoop进阶之MR中MapTask并行度决定机制及切片机制

https://blog.csdn.net/zuolovefu/article/details/79066896?utm_source=blogxgwz1

 

你可能感兴趣的:(MR执行流程详解)