hadoop集群启动后datanode和namenodemanager关闭问题解决

成功启动hadoop集群后,在matser机器上执行jps命令,可以看到:

 Jps
 ResourceManager
 NameNode
 SecondaryNameNode

在slave节点上可以看到:

 DataNode
 Jps
 NodeManager

但是有时候,在集群启动一段时间后,slave上的datanode和弄得manager会消失。解决办法如下:

1.首先检车自己的配置文件是不是正确,我的配置文件如下:

hdfs-site.xml

<configuration>
<property>
<name>dfs.replicationname>
<value>1value>
property>

<property>
<name>dfs.namenode.name.dirname>
<value>file:/usr/hadoop/hdfsvalue>
property>

<property>
<name>dfs.datanode.data.dirname>
<value>file:/usr/hadoop/hdfsvalue>
property>

<property>
<name>dfs.namenode.secondary.http-addressname>
<value>Master:9001value>
property>
configuration>

mapred-site.xml

<configuration>
<property>
<name>mapreduce.framework.namename>
<value>yarnvalue>
property>
configuration>

yarn-site.xml

<configuration>
<property>
<name>yarn.nodemanager.aux-servicesname>
<value>mapreduce_shufflevalue>
property>

<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.classname>
<value>org.apache.hadoop.mapred.ShuffleHandlervalue>
property>

<property>
<name>yarn.resourcemanager.addressname>
<value>Master:8032value>
property>

<property>
<name>yarn.resourcemanager.scheduler.addressname>
<value>Master:8030value>
property>

<property>
<name>yarn.resourcemanager.resource-tracker.addressname>
<value>Master:8031value>
property>

<property>
<name>yarn.resourcemanager.admin.addressname>
<value>Master:8033value>
property>

<property>
<name>yarn.resourcemanager.webapp.addressname>
<value>Master:8088value>
property>

<property>
<name>yarn.resourcemanager.hostnamename>
<value>Mastervalue>
property>

configuration>

core-site.xml

<configuration>
<property>
<name>hadoop.tmp.dirname>
<value>/usr/hadoop/hdfsvalue>
property>
<property>
<name>fs.defaultFSname>
<value>hdfs://Master:9000value>
property>
configuration>

2.如果配置文件没有问题,那么再按以下方法

可能是因为重新格式化集群,但是以前的数据没有清理干净。重新格式化方式如下:
注意:重新格式化HDFS要将hdfs-site.xml中dfs.namenode.name.dir和dfs.datanode.data.dir所指定目录下的内容删除;core-site.xml中hadoop.tmp.dir目录中的内容删除。
然后重新启动hadoop集群,执行hadoop namenode -format

注意:1.记得启动前关闭所有机器的防火墙

一般这样之后就不会再出现出现消失的问题啦~

你可能感兴趣的:(学习笔记)