yarn环境搭建

环境搭建

1、准备工作

首先搭建一个高可用的完全分布式
可以参照:https://blog.csdn.net/xgs960528/article/details/83020393

2、图解 各个节点的功能

yarn环境搭建_第1张图片

3、配置文件

(1)在node01 node02 node03 node04的 /opt/software/hadoop-2.6.5/etc/hadoop/ 目录下 将mapred-site.xml.template文件修改为mapred-site.xml,然后更改文件里面的内容
命令:
修改文件名mv mapred-site.xml.template mapred-site.xml
修改文件 vim mapred-site.xml
在这里插入图片描述
mapred-site.xml文件修改为:


        mapreduce.framework.name
        yarn
  

yarn环境搭建_第2张图片
(2)node01 node02 node03 node04配置接着配置yarn-site.xml


        yarn.nodemanager.aux-services
        mapreduce_shuffle
    

   yarn.resourcemanager.ha.enabled
   true
 
 
   yarn.resourcemanager.cluster-id
   cluster1
 
 
   yarn.resourcemanager.ha.rm-ids
   rm1,rm2
 
 
   yarn.resourcemanager.hostname.rm1
   node01
 
 
   yarn.resourcemanager.hostname.rm2
   node02
 
 
   yarn.resourcemanager.zk-address
   node02:2181,node03:2181,node04:2181
 

3、启动

(1)启动zookeeper 在node02 node03 node04上启动zookeeper,
命令:./zkServer.sh start
(2)在nodenode上启动集群
命令:start-dfs.sh
(3)在node01 或者node02上启动yarn
命令:start-yarn.sh
(4)启动另一个节点的yarn
命令:yarn-daemon.sh start resourcemanager

我的错误:
在配置文件的时候,只在node01配置了,导致出现Active nodes全部为0

你可能感兴趣的:(yarn环境搭建)