linux下Hadoop安装与环境配置
注：本文采用的Linux环境为deepin 15.11系统（是由武汉深之度科技有限公司开发的颜值极高的Linux发行版），以下命令经测试Ubuntu18.04版本同样适用。linux安装可采用虚拟机安装、单系统安装、双系统安装等多种方式，自行百度。
在linux下首先更新apt包：
sudo apt-get update安装SSH server：
sudo apt-get install openssh-server配置SSH：
ssh localhost输入密码登录本机和退出本机：
exit由于需要跨机器登录，所以还需要配置无密码。在进行了初次登陆后，进入.ssh文件夹下：
cd ~/.ssh/ 使用rsa算法生成秘钥和公钥对：
ssh-keygen -t rsa运行后一路Enter，其中第一个是要输入秘钥和公钥对的保存位置，默认是在：.ssh/id_rsa。然后把公钥加入到授权中：
cat ./id_rsa.pub >> ./authorized_keys再次ssh localhost 就可以无密码登录了。
安装JDK：
首先检查Java是否已经安装：
java -version如果没有安装，点击链接
https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html 并选择相应系统以及位数下载（本文选择jdk-8u241-linux-x64.tar.gz，如具体版本不同则灵活修改）
为其单独创立一个文件夹，然后将其放到该目录下（下载后以具体为止为准）：
sudo mkdir -p /usr/local/javasudo mv ~/Downloads/jdk-8u241-linux-x64.tar.gz /usr/local/java/
进入该目录进行解压：
cd /usr/local/javasudo tar xvzf jdk-8u241-linux-x64.tar.gz
解压成功后会在当前目录下看到jdk1.8.0_241安装包，然后删除安装包：
sudo rm jdk-8u241-linux-x64.tar.gz配置JDK：
设置环境变量，打开环境变量的配置文件：
sudo vim /etc/profile在末尾添加：
JAVA_HOME=/usr/local/java/jdk1.8.0_241PATH=$PATH:$HOME/bin:$JAVA_HOME/binexport JAVA_HOMEexport PATH
告诉linux Java JDK的位置并设置为默认模式：
sudo update-alternatives --install "/usr/bin/java" "java" "/usr/local/java/jdk1.8.0_241/bin/java" 1sudo update-alternatives --install "/usr/bin/javac" "javac" "/usr/local/java/jdk1.8.0_241/bin/javac" 1sudo update-alternatives --install "/usr/bin/javaws" "javaws" "/usr/local/java/jdk1.8.0_241/bin/javaws" 1sudo update-alternatives --set java /usr/local/java/jdk1.8.0_241/bin/javasudo update-alternatives --set javac /usr/local/java/jdk1.8.0_241/bin/javacsudo update-alternatives --set javaws /usr/local/java/jdk1.8.0_241/bin/javaws
重新加载环境变量的配置文件：
source /etc/profile检测Java版本：
java -version如果出现以下代表成功：
java version "1.8.0_241"Java(TM) SE Runtime Environment (build 1.8.0_241-b07)Java HotSpot(TM) 64-Bit Server VM (build 25.241-b07, mixed mode)
安装Hadoop：
进入镜像文件https://mirrors.cnnic.cn/apache/hadoop/common/ 并选择对应Hadoop版本（注意版本不是越新越好，要考虑版本兼容问题，本文选择hadoop-2.10.0.tar.gz）
然后将其解压至刚刚创建的文件夹 /usr/local并删除安装包：
sudo tar -zxf ~/Downloads/hadoop-2.10.0.tar.gz -C /usr/localrm ~/Downloads/hadoop-2.10.0.tar.gz
重命名文件夹并修改权限（其中phenix为用户名）：
cd /usr/local/sudo mv hadoop-2.10.0 hadoopsudo chown -R phenix ./hadoop
检测hadoop版本：
/usr/local/hadoop/bin/hadoop version出现以下信息则代表成功：
Hadoop 2.10.0Subversion ssh://git.corp.linkedin.com:29418/hadoop/hadoop.git -r e2f1f118e465e787d8567dfa6e2f3b72a0eb9194Compiled by jhung on 2019-10-22T19:10ZCompiled with protoc 2.5.0From source with checksum 7b2d8877c5ce8c9a2cca5c7e81aa4026This command was run using /usr/local/hadoop/share/hadoop/common/hadoop-common-2.10.0.jar
配置Hadoop（伪分布式）：
切换到路径/usr/local/hadoop/etc/hadoop下，需要修改2个配置文件core-site.xml和hdfs-site.xml。
首先打开core-site.xml
cd /usr/local/hadoop/etc/hadoopvim core-site.xml
在
hadoop.tmp.dir /usr/local/hadoop/tmp Abase for other temporary directories. fs.defaultFS hdfs://localhost:9000
注：本文使用的是hdfs://localhost:9000即hdfs文件系统
再打开hdfs-site.xml：
vim hdfs-site.xml 同样在
dfs.replication 1 dfs.namenode.name.dir /usr/local/hadoop/tmp/dfs/name dfs.datanode.data.dir /usr/local/hadoop/tmp/dfs/data
注：dfs.replication就是指备份的份数；dfs.namenode.name.dir和dfs.datanode.data.dir分别指名称节点和数据节点存储路径
切换回hadoop主目录并执行NameNode的格式化（格式化成功后轻易不要再次格式化）：
cd /usr/local/hadoop./bin/hdfs namenode -format
出现以下信息代表成功：
00000000 using no compression18/08/20 11:07:16 INFO namenode.FSImageFormatProtobuf: Image file /usr/local/hadoop/tmp/dfs/name/current/fsimage.ckpt_0000000000000000000 of size 320 bytes saved in 0 seconds .18/08/20 11:07:16 INFO namenode.NNStorageRetentionManager: Going to retain 1 images with txid >= 018/08/20 11:07:16 INFO namenode.NameNode: SHUTDOWN_MSG:/************************************************************SHUTDOWN_MSG: Shutting down NameNode at phenix/127.0.1.1************************************************************/
手动添加JAVA_HOME，在hadoop-env.sh文件中添:
cd etc/hadoop/vim hadoop-env.sh
在hadoop-env.sh文件中添加如下内容即可:
export JAVA_HOME=/usr/local/java/jdk1.8.0_241开启NameNode和DataNode守护进程:
./sbin/start-dfs.sh开启yarn资源管理器：
./sbin/start-yarn.sh验证：
jps出现以下六个则代表启动成功：
18192 DataNode18922 NodeManager20044 Jps18812 ResourceManager18381 SecondaryNameNode18047 NameNode
简单示例：
首先切换至hadoop主目录并在HDFS中创建用户目录：
./bin/hdfs dfs -mkdir -p /user/hadoop创建输入文件夹：
./bin/hdfs dfs -mkdir /user/hadoop/input将etc/hadoop下所有的xml文件复制到输入：
./bin/hdfs dfs -put ./etc/hadoop/*.xml /user/hadoop/input然后通过命令查看：
./bin/hdfs dfs -ls /user/hadoop/input结果如下：
Found 8 items-rw-r--r-- 1 phenix supergroup 8814 2020-01-31 13:21 /user/hadoop/input/capacity-scheduler.xml-rw-r--r-- 1 phenix supergroup 1119 2020-01-31 13:21 /user/hadoop/input/core-site.xml-rw-r--r-- 1 phenix supergroup 10206 2020-01-31 13:21 /user/hadoop/input/hadoop-policy.xml-rw-r--r-- 1 phenix supergroup 1173 2020-01-31 13:21 /user/hadoop/input/hdfs-site.xml-rw-r--r-- 1 phenix supergroup 620 2020-01-31 13:21 /user/hadoop/input/httpfs-site.xml-rw-r--r-- 1 phenix supergroup 3518 2020-01-31 13:21 /user/hadoop/input/kms-acls.xml-rw-r--r-- 1 phenix supergroup 5939 2020-01-31 13:21 /user/hadoop/input/kms-site.xml-rw-r--r-- 1 phenix supergroup 690 2020-01-31 13:21 /user/hadoop/input/yarn-site.xml
运行grep：
./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-2.10.0.jar grep /user/hadoop/input output 'dfs[a-z]+'查看运行结果：
./bin/hdfs dfs -cat output/*出现以下输出则说明Hadoop集群搭建完成：
1 1 dfsadmin我们还可以利用HDFS Web界面，不过只能查看文件系统数据，点击链接http://localhost:50070即可进行查看：
同时也可通过http://localhost:8088/cluster查看hadoop集群当前应用状况：
关闭Hadoop：
./sbin/stop-dfs.sh./sbin/stop-yarn.sh
最后！细心的同学会发现每次开启关闭都得切换至指定目录不太方便，因此我们将其加入环境变量中，开启更加方便：
vim /etc/bash.bashrc在末尾添加：
export JAVA_HOME=/usr/local/java/jdk1.8.0_241export JRE_HOME=${JAVA_HOME}/jreexport HADOOP_HOME=/usr/local/hadoopexport CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/libexport PATH=${JAVA_HOME}/bin:${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin:$PATH
然后执行source更新命令：
source /etc/bash.bashrc之后会发现在任意位置尝试hadoop命令都会输出对应结果：
hadoop version至此Hadoop安装及环境配置完成。