Window10安装Hadoop踩坑的过程

步骤目录

  • 为Hadoop准备Java环境
  • 下载Hadoop
    • 添加Hadoop到系统变量
    • 下载便捷配置文件hadooponwindows-master
  • Hadoop配置
    • etc/hadoop/core-site.xml
    • hdfs-site.xml
    • yarn-site.xml
    • mapred-site.xml
    • hadoop-env.cmd
  • 测试运行
    • 格式化HDFS
    • 启动!

题前话:Hadoop官方认定Hadoop环境最好还是运行在Ubuntu系统上,由于笔者比较倾向在Win上面做开发,所以就先装在Window10上了。

为Hadoop准备Java环境

由于Hadoop运行需要Java1.8.0以上的环境,请先自行下载Java并添加入系统环境变量JAVA_HOME如果在CMD中输入java、javac出现如下提示则表名java环境已经准备好了。
Window10安装Hadoop踩坑的过程_第1张图片
Window10安装Hadoop踩坑的过程_第2张图片

下载Hadoop

hadoop下载地址 在这里选择需要下载的版本,我这边选择了2.8.5版本。解压到你想解压的地方就完事。在这里插入图片描述
Window10安装Hadoop踩坑的过程_第3张图片

添加Hadoop到系统变量

Window10安装Hadoop踩坑的过程_第4张图片

下载便捷配置文件hadooponwindows-master

下载这个文件是为了使hadoop的配置过程更加便捷。hadooponwindows-master解压发现有bin、etc这两个文件夹。直接覆盖上图hadoop里面的那两个同名文件即可。
在这里插入图片描述

Hadoop配置

这个配置只能满足初学者配置Hadoop,这绝不是完整的配置,其他设置还需读者通过继续学习了解。如果对这些配置的具体作用有疑惑的同学,请自行查看这里深入理解hadoop配置(感谢大佬的总结)

etc/hadoop/core-site.xml


    
        fs.defaultFS
        hdfs://localhost:9000
        
    
    
		hadoop.tmp.dir
		D:/hadoop/hadoop-2.8.5/tmp
        
	

hdfs-site.xml

这里需要建立存放namenode和datanode的文件夹,可自行选择位置创建,无所谓名称、位置,你喜欢就好,但不能没有。


 
        dfs.replication
        1
    
    
        dfs.namenode.name.dir
        /D:/hadoop/hadoop-2.8.5/workspace/namenode
        
    
    
        dfs.datanode.data.dir
        /D:/hadoop/hadoop-2.8.5/workspace/datanode
        
    

yarn-site.xml


     
		yarn.resourcemanager.hostname
		localhost
	
	
		yarn.nodemanager.aux-services
		mapreduce_shuffle
	

mapred-site.xml


    
        nistest.master:9001
        yarn
    

hadoop-env.cmd

这里边只改这一小段,千万不要用这一段直接替换所有内容!千万不要用这一段直接替换所有内容!千万不要用这一段直接替换所有内容!重要的事情说三遍!!!
箭头指向的java的环境变量只要和第一步那里的JAVA_HOME保持一致即可。

@rem The java implementation to use.  Required.
@rem set JAVA_HOME=%JAVA_HOME%
set JAVA_HOME=D:\java1.8.1     《----(我是个箭头)
@rem The jsvc implementation to use. Jsvc is required to run secure datanodes.
@rem set JSVC_HOME=%JSVC_HOME%

测试运行

格式化HDFS

CMD中键入hdfs -namenode format。如果看到successfully,或者return 0这类字眼表示成功,返回1说明有一个错误,依此类推。

启动!

CMD中先进入hadoop2.8.5/sbin/目录,运行start-all.cmd,弹出四个窗口,Window10安装Hadoop踩坑的过程_第5张图片
稍等几秒后通过访问

  • http://localhost:8088
  • http://localhost:50070
    注意如果你安装的是hadoop3.x这里的50070端口改成了9870
    Window10安装Hadoop踩坑的过程_第6张图片
    Window10安装Hadoop踩坑的过程_第7张图片
    这里不知道报了什么错,之后再捣鼓一下。如果你这两个页面都正常运行
    (o゜▽゜)o☆[BINGO!]Hadoop已经正常运行了。
    如果大家在Window安装hadoop过程中发发现了问题,遇到了困难,可以评论在文章下面,笔者非常希望与大家一起解决问题
    今天就到这喽!晚安,各位。

你可能感兴趣的:(大数据)