could only be replicated to 0 nodes instead of minReplication (=1). There are 1 datanode(s) running

学习使用 Hadoop-3.2.2 API
IDEA中使用Java 向hdfs 写入文件时出现如下错误:

could only be replicated to 0 nodes instead of minReplication (=1). There are 1 datanode(s) running

– 只能复制到0个节点,而不是minReplication(=1)。有一个datanode(s)运行

但云主机上操作 hdfs 一切正常。
jps 查看datanode 也是正常启动。

解决办法:

  1. 在hdfs-site.xml 需要加上,并重启 stop-all.sh、start-all.sh
 
        dfs.datanode.use.datanode.hostname
        true
 
  1. 在代码里加上:
configuration.set("dfs.client.use.datanode.hostname", "true");

仍然报错。

进入hdfs web页面查看(机器ip:9870),Hadoop-3.2.2 的 DataNode启动在端口 9866

could only be replicated to 0 nodes instead of minReplication (=1). There are 1 datanode(s) running_第1张图片
淦,肯定是云主机安全组没配置9866所以被拦截了。

  1. 安全组加上9866以后,写入成功。
    在这里插入图片描述

如果是使用虚拟机,也记得把Linux的防火墙关闭。

如使用hadoop-2.x 参考:
https://blog.csdn.net/vaf714/article/details/82996860
https://blog.csdn.net/yexiaomodemo/article/details/80900322

Hadoop 端口使用的详情:
https://blog.csdn.net/jeffiny/article/details/78728965
https://blog.csdn.net/zpf_940810653842/article/details/102551103

你可能感兴趣的:(hadoop,hadoop,hdfs,big,data)