在Windows 10上安装单机版的hadoop-3.3.5

1、Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以不需要了解分布式底层细节的情况下,开发分布式程序。充分利用集群进行高速运算和存储。

2、下载Hadoop,我们在清华大学的镜像站下载

Index of /apache/hadoop/core/hadoop-3.3.6 (tsinghua.edu.cn)

3、下载之后解压缩

在Windows 10上安装单机版的hadoop-3.3.5_第1张图片​4、安装相应的环境

4.1、jdk1.8或者jdk11,

4.2、配置hadoop环境

在Windows 10上安装单机版的hadoop-3.3.5_第2张图片

5、修改hadoop配置

5.1、修改start-all.cmd中的配置

@rem start hdfs daemons if hdfs is present
if exist %HADOOP_HDFS_HOME%\sbin\start-dfs.cmd (
  call %HADOOP_HDFS_HOME%\sbin\start-dfs.cmd --config %HADOOP_CONF_DIR%
)

@rem start yarn daemons if yarn is present
if exist %HADOOP_YARN_HOME%\sbin\start-yarn.cmd (
  call %HADOOP_YARN_HOME%\sbin\start-yarn.cmd --config %HADOOP_CONF_DIR%
)

5.2、修改yarn-site.xml




 
        yarn.nodemanager.aux-services
        mapreduce_shuffle
    
    
        yarn.nodemanager.aux-services.mapreduce_shuffle.class
        org.apache.hadoop.mapred.ShuffleHandler
    
    
        yarn.resourcemanager.hostname
        localhost
    

5.3、mapred-site.xml


 
       mapreduce.framework.name
       yarn
    

5.4、hdfs-site.xml


	
        dfs.replication
        1
    
    
        dfs.namenode.name.dir
        /D:/bigdata/hadoop/data/namenode //注意前面部分路径修改为自己的
    
    
        dfs.datanode.data.dir
        /D:/bigdata/hadoop/data/datanode //注意前面部分路径修改为自己的
    
	
	   dfs.permissions.enabled
	   false
	

5.5、core-site.xml


	
        hadoop.tmp.dir
        /D:/bigdata/hadoop/data/tmp //注意前面部分路径修改为自己的
    
    
        fs.defaultFS
        hdfs://localhost:9000
    
	
        hadoop.http.authentication.simple.anonymous.allowed
        true
    

5.6、需要拷贝winutils下的winutils.exe,hadoop.dll到hadoop的bin下面

在Windows 10上安装单机版的hadoop-3.3.5_第3张图片

在/ect/hadoop/hadoop-env.cmd中设置set JAVA_HOME=D:/Java/jdk1.8.0_311,jdk的环境地址

在Windows 10上安装单机版的hadoop-3.3.5_第4张图片

5.7、输入hdfs namenode -format格式化

hdfs namenode -format

5.8、进入hadoop/sbin目录执行start-all.cmd

D:\bigdata\hadoop\sbin>start-all.cmd
This script is Deprecated. Instead use start-dfs.cmd and start-yarn.cmd
starting yarn daemons

在Windows 10上安装单机版的hadoop-3.3.5_第5张图片

在Windows 10上安装单机版的hadoop-3.3.5_第6张图片

在Windows 10上安装单机版的hadoop-3.3.5_第7张图片

在Windows 10上安装单机版的hadoop-3.3.5_第8张图片

5.9、jps查看

D:\bigdata\hadoop\sbin>jps
8448 Jps
28360 NameNode
29592 ResourceManager
18108 NodeManager
20940 DataNode

5.10、启动成功后界面

http://localhost:8088/cluster

在Windows 10上安装单机版的hadoop-3.3.5_第9张图片

http://localhost:9870/

在Windows 10上安装单机版的hadoop-3.3.5_第10张图片

在Windows 10上安装单机版的hadoop-3.3.5_第11张图片

单机版的hadoop就启动成功

你可能感兴趣的:(数据库知识,大数据,hadoop,大数据,分布式)