Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作

1.去官网下载hadoop。

1>选择镜像网站,选清华的镜像的网站。

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第1张图片

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第2张图片

2>找个自己喜欢版本的hadoop,下载好将压缩包解压。

 Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第3张图片

2.找对应版本的winutil。因为hadoop主要基于linux编写,这个winutil.exe主要用于模拟linux下的目录环境。因此hadoop放在windows下运行的时候,需要这个辅助程序才能运行。Github和csdn基本对应版本的都有。下载好解压放入hadoop的bin里,hadoop.dll放入window\Ssytem32\中。

csdn:

https://download.csdn.net/download/cpp_yangzuoshi/10164025

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第4张图片

github:

https://github.com/steveloughran/winutils

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第5张图片

3.配置hadoop相关xml。

1>首先确保环境变量中有JAVA_HOME,java相关程序,都会默认调用JAVA_HOME,注意“Program Files”因为有空格不被识别。可用PROGRA~1替代。

2>配置4个xml。先进入hadoop\etc\hadoop。

配置core-stie.xml。

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第6张图片

配置hdfs-site.xml。

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第7张图片

配置mapred-site.xml.template。

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第8张图片

配置yarn-site.xml。

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第9张图片

4.至此hadoop就可以用了。

1>将hadoop目录里的bin和sbin添加到环境变量中。

2>打开cmd。输入start-all.cmd,会启动hdfs和yarn服务。jps查看进程。stop-all.cmd停止服务。

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第10张图片

3>Localhost:50070和Localhost:8088查看。

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第11张图片

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第12张图片

5.注意事项:

1>我是使用的hadoop2.9.0依赖jdk8,jdk9和10均不能正常使用hadoop。

2>使用前hadoop namenode -format

3>jps无法查看java进程的问题。由于更换jdk导致,清除一下Appdata内的Tamp就好了

hdfs的基本操作:(和linux很想)

在hdfs中创建目录,注意user是根目录


向hdfs上传文件

查看hdfs文件目录

Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作_第13张图片

(第一次分享不周之处,希望大家多多提醒)


你可能感兴趣的:(Hadoop入门系列(一)Window环境下搭建hadoop和hdfs的基本操作)