hadoop入门(初识yarn)

分布式计算
设计原则:移动计算,而不是移动数据。
配置计算机调度系统yarn和计算引擎Map/Reduce。

# cd /usr/local/hadoop/etc/hadoop
# vi yarn-site.xml

插入配置文件:

yarn.resourcemanager.hostname
master


yarn.nodemanager.aux-services
mapreduce_shuffle


yarn.nodemanager.auxservices.mapreduce.shuffle.class
org.apache.hadoop.mapred.ShuffleHandler

# start-yarn.sh    //启动resourcemanager和nodemanager
# jps

查看yarn是否启动成功也可以在宿主机浏览192.168.56.100:8088

hadoop入门(初识yarn)_第1张图片

配置文件(路径:/usr/local/hadoop/etc/hadoop):

# vi mapred-site.xml.template

插入配置文件:

mapreduce.framework.name
yarn

创建一个文件做实验。
启动hdfs:

# start-dfs.sh
# cd 
# vi input.txt    //任意输入一些内容。
# hadoop fs -mkdir /wcinput    //在hdfs上创建一个目录。
# hadoop fs -put input.txt /wcinput
# hadoop fs -ls /wcinput
# cd /usr/local/hadoop/share/hadoop/mapreduce
# hadoop jar hadoop-mapreduce-examples-2.7.3.jar wordcount /wcinput/input.txt /wcoutput
# hadoop fs -ls /wcoutput  
-rw-r--r--   3 root supergroup          0 2017-10-07 11:31 /wcoutput/_SUCCESS
-rw-r--r--   3 root supergroup         28 2017-10-07 11:31 /wcoutput/part-r-00000
# hadoop fs -text /wcoutput/part-r-00000    //可以查看统计结果。

可以在浏览器中查看结果输出:
hadoop入门(初识yarn)_第2张图片

你可能感兴趣的:(hadoop入门(初识yarn))