hadoop mapper reducer

Local模式运行MR流程
-------------------------
1.创建外部Job(mapreduce.Job),设置配置信息
2.通过jobsubmitter将job.xml + split等文件写入临时目录
3.通过jobSubmitter提交job给localJobRunner,
4.LocalJobRunner将外部Job 转换成成内部Job
5.内部Job线程,开放分线程执行job
6.job执行线程分别计算Map和reduce任务信息并通过线程池孵化新线程执行MR任务。

 

在hadoop集群上运行mrjob
-------------------------
1.导入jar包
maven
2.丢到hadoop
3.运行hadoop jar命令
$>hadoop jar HdfsDemo-1.0-SNAPSHOT.jar com.it18zhang.hdfs.mr.WCApp hdfs://s201/user/centos/wc/data hdfs://s201/user/centos/wc/out

你可能感兴趣的:(hadoop mapper reducer)