如何在windows上搭建hadoop的客户端

一般情况,hadoop是集群运行在Linux上作为服务端,我们想使用命令行访问集群,就需要登录hadoop-master机器使用 hadoop fs -* 命令访问,感觉这样操作有点麻烦,所以我们在本地的windows上搭建一个hadoop的客户端,使用cmd命令访问集群。

  1. 获取hadoop包

最简单的方式就是直接将master上的hadoop包下载到本地
如何在windows上搭建hadoop的客户端_第1张图片

  1. 配置环境变量
# 新增
HADOOP_HOME=D:\tools\hadoop\hadoop-3.2.1

# PATH后面追加
%HADOOP_HOME%\bin

如何在windows上搭建hadoop的客户端_第2张图片
如何在windows上搭建hadoop的客户端_第3张图片

  1. bin目录加入winutils.exe

百度搜索关键字"winutils.exe",自己下载,这里就不提供了。
如何在windows上搭建hadoop的客户端_第4张图片

  1. 配置机器映射

很多情况情况下, Hadoop的配置文件都使用机器名代替IP,Linux节点只需要修改机器名 /etc/hostname 和 IP映射 /etc/hosts 就行。windows需要修改C:\Windows\System32\drivers\etc\hosts文件,新增如下映射就行

如何在windows上搭建hadoop的客户端_第5张图片
第一列是机器IP,第二列是机器名

使用以下命令列出根目录下所有的文件、文件夹

hadoop fs -ls /

出现以下错误

The system cannot find the path specified.
Error: JAVA_HOME is incorrectly set.
       Please update D:\tools\hadoop\hadoop-3.2.1\etc\hadoop\hadoop-env.cmd
'-Xmx512m' is not recognized as an internal or external command,
operable program or batch file.

如何在windows上搭建hadoop的客户端_第6张图片
需要更新配置文件${HADOOP_HOME}/etc/hadoop/hadoop-env.cmd,配置JAVA_HOME


因为JAVA_HOME路径里面出现了【空格】,所有用【双引号】引起来。

再使用上面命令行,成功

如何在windows上搭建hadoop的客户端_第7张图片

hadoop常用命令行可参考
https://blog.csdn.net/admin_15082037343/article/details/93304234

你可能感兴趣的:(大数据,hadoop,windows客户端)