MR切片源码分析笔记

这里用的WordCount案例
MR切片源码分析笔记_第1张图片
运行debug模式,F5进入waitForComplent()方法
MR切片源码分析笔记_第2张图片
可以看到它调用了submit()方法,进入这个方法
MR切片源码分析笔记_第3张图片
可以看到又有四个方法
1.ensureState():查看当前任务运行状态的方法
2.setUseNewAPI():设置一个新建的API
3.进入connect():这是一个客户端获得服务器链接并返回的方法**********
MR切片源码分析笔记_第4张图片
进入Cluster(getConfiguration())
MR切片源码分析笔记_第5张图片
进入到初始化函数initialize中MR切片源码分析笔记_第6张图片
进入第一个provider.create(),是以本机方式提交
MR切片源码分析笔记_第7张图片
进入第二个provider.create(),是以集群yarn方式提交
MR切片源码分析笔记_第8张图片

我们回到submit方法
MR切片源码分析笔记_第9张图片
进入submitJobInternal(Job.this, cluster)中
MR切片源码分析笔记_第10张图片
MR切片源码分析笔记_第11张图片

进入writeSplits
MR切片源码分析笔记_第12张图片

进入writeNewSplits
MR切片源码分析笔记_第13张图片

进入getSplits:实现如何切片
MR切片源码分析笔记_第14张图片

MR切片源码分析笔记_第15张图片
返回到submitJobInternal()中
MR切片源码分析笔记_第16张图片
返回到submit()任务提交完成
返回到waitForCompletion(),执行任务
MR切片源码分析笔记_第17张图片
完成任务!~
MR切片源码分析笔记_第18张图片
PS:如果觉着我这个乱的话推荐看流程图

你可能感兴趣的:(hadoop笔记,hadoop)