自己安装
wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
tar -zxvf hadoop-3.3.1.tar.gz
vim /etc/profile
在文件最下方加入以下配置
export JAVA_HOME=/opt/jdk1.8.0_301
export HADOOP_HOME=/opt/hadoop
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JRE_HOME=$JAVA_HOME/jre
使环境变量生效
source /etc/profile
修改主机名
vim /etc/sysconfig/network
在下方加入 HOSTNAME=hadoop1
不生效 使用 命令行 hostname hadoop1 临时修改
查看主机名:
hostname
修改Hadoop的配置文件
修改core-site.xml 文件
vim /opt/hadoop-3.3.1/etc/hadoop/core-site.xml
<configuration>
<property>
<name>hadoop.tmp.dirname>
<value>/hadoopvalue>
property>
<property>
<name>dfs.name.dirname>
<value>/hadoop/namevalue>
property>
<property>
<name>fs.default.namename>
<value>hdfs://hadoop1:9000value>
property>
configuration>
修改hdfs-site.xml 文件
vim /opt/hadoop-3.3.1/etc/hadoop/hdfs-site.xml
<configuration>
<property>
<name>dfs.data.dirname>
<value>/hadoop/datavalue>
property>
<property>
<name>dfs.replicationname>
<value>1value>
property>
<property>
<name>dfs.permissionsname>
<value>falsevalue>
property>
<property>
<name>dfs.client.use.datanode.hostnamename>
<value>truevalue>
<description>only cofig in clientsdescription>
property>
configuration>
修改 hadoop-env.sh 文件
vim /opt/hadoop-3.3.1/etc/hadoop/hadoop-env.sh
在下方加入一行
export JAVA_HOME=/opt/jdk1.8.0_301
修改 mapred-site.xml 文件
vim /opt/hadoop-3.3.1/etc/hadoop/mapred-site.xml
<configuration>
<property>
<name>mapred.job.trackername>
<value>september:9001value>
property>
<property>
<name>mapred.local.dirname>
<value>/hadoop/logsvalue>
property>
configuration>
修改 sbin目录下的 start-dfs.sh 和 stop-dfs.sh 文件
vim /opt/hadoop-3.3.1/sbin/start-dfs.sh
vim /opt/hadoop-3.3.1/sbin/stop-dfs.sh
HDFS_DATANODE_USER=root
HDFS_DATANODE_SECURE_USER=hdfs
HDFS_NAMENODE_USER=root
HDFS_SECONDARYNAMENODE_USER=root
修改 sbin目录下的 start-yarn.sh 和 stop-yarn.sh 文件
vim /opt/hadoop-3.3.1/sbin/start-yarn.sh
vim /opt/hadoop-3.3.1/sbin/stop-yarn.sh
YARN_RESOURCEMANAGER_USER=root
HADOOP_SECURE_DN_USER=yarn
YARN_NODEMANAGER_USER=root
配置算是修改完了, 再配置一个ssh免密登录
ssh-keygen -t rsa
一路回车
ssh-copy-id -i /root/.ssh/id_dsa.pub root@ *.*.*.* //这里是IP地址
hadoop namenode -format
start-all.sh
启动完了用jps命令看一下