伪分布式安装Hadoop

适用于只有一台电脑并且想学hadoop的用户。伪分布式可以使用户方便的学习hadoop。本文以ubuntu14.04和hadoop2.6.0为例介绍hadoop的伪分布式安装过程。

1. 首先安装ssh和jdk。

2. 下载hadoop2.6.0。

3. 安装hadoop。首先创建Hadoop的文件夹，使用指令sudo mkdir /usr/local/hadoop ,将hadoop安装到该文件夹，使用指令tar -zxvf hadoop-2.6.0.tar.gz -C /usr/local/hadoop。

4. 修改hadoop的配置文件。首先进入配置文件所在的文件夹，使用指令cd /usr/local/hadoop/hadoop-2.6.0/etc/hadoop 。

hadoop-env.sh文件：使用指令vim hadoop-env.sh（如果不会使用vim可以使用gedit来替换vim） 找到文件中java位置并修改为export JAVA_HOME=你的java所在目录。

hdfs-site.xml：在和标签之间添加指令
dfs.replication
1


yarn-site.xml：在和标签之间添加指令
yarn.resourcemanager.hostname
master



yarn.nodemanager.aux-services
mapreduce_shuffle


core-site.xml：在和标签之间添加指令
fs.defaultFS
hdfs://master:9000



hadoop.tmp.dir
/usr/local/hadoop/hadoop-2.6.0/data/


mapred-site.xml：原配置文件中无此文件需要使用指令mv mapred-site.xml.template mapred-site.xml生成一个。在和标签之间添加指令
mapreduce.framework.name
yarn


5. 将hadoop添加到环境变量vim /etc/proflie添加三行代码
export JAVA_HOME=你自己的java目录
export HADOOP_HOME=/usr/local/hadoop/hadoop-2.6.0
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin然后使用指令source /etc/profile使修改生效。

6.格式化namenode（是对namenode进行初始化）
指令为hdfs namenode -format (hadoop namenode -format)注意会在格式化中出现一条success的提示说明安装成功。

7.启动hadoop
使用指令sbin/start-all.sh

8.验证是否启动成功
使用jps命令验证,如果出现以下六条进程则说明hadoop安装成功。
NameNode
Jps
SecondaryNameNode
NodeManager
ResourceManager
DataNode