Windows上安装HADOOP单机伪分布式集群

阅读更多

1、准备HADOOP运行环境

下载解压并拷贝到Cygwin的用户主目录

http://archive.apache.org/dist/hadoop/core/hadoop-0.20.2/hadoop-0.20.2.tar.gz

1.x版本有BUG,参考：

https://issues.apache.org/jira/browse/HADOOP-7682
https://issues.apache.org/jira/browse/HADOOP-8274

BUG修复请参考：

http://en.wikisource.org/wiki/User:Fkorning/Code/Hadoop-on-Cygwin

 

在/home/ysc/.bashrc 中追加：

export  JAVA_HOME=/home/ysc/jdk1.7.0_17

export  PATH=/home/ysc/hadoop-0.20.2/bin:$JAVA_HOME/bin:$PATH

在hadoop-0.20.2/conf/hadoop-evn.sh中追加

export  JAVA_HOME=/home/ysc/jdk1.7.0_17

export  HADOOP_LOG_DIR=/tmp/logs

创建符号链接

mklink  /D  C:\tmp  C:\cygwin\tmp

重新登录就生效

ssh  localhost

which  hadoop

 

2、配置HADOOP运行参数

vi conf/core-site.xml

fs.default.name
hdfs://localhost:9000

 vi conf/hdfs-site.xml

 

  dfs.replication
 1

  vi conf/mapred-site.xml

 

 mapred.job.tracker
 localhost:9001

 
 mapred.tasktracker.map.tasks.maximum
 4
 
 
 mapred.tasktracker.reduce.tasks.maximum
 4

                   

 

3、格式化名称节点并启动集群

hadoop namenode -format

 

4、启动集群并查看WEB管理界面

start-all.sh

访问http://localhost:50030可以查看 JobTracker 的运行状态

访问http://localhost:50060可以查看 TaskTracker 的运行状态

访问http://localhost:50070可以查看 NameNode 以及整个分布式文件系统的状态，浏览分布式文件系统中的文件以及 log 等

 

5、停止集群

stop-all.sh

停止集群