Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04

    本篇博客为学习总结博客,学习字源来自厦门大学数据库实验室,链接为:http://dblab.xmu.edu.cn/blog/install-hadoop/

    十分感谢!!!


一、 创建新用户

    首先按 ctrl+alt+t 打开终端窗口,输入如下命令创建新用户 :

    $ sudo useradd -m hadoop -s /bin/bash

    sudo是ubuntu中一种权限管理机制,管理员可以授权给一些普通用户去执行一些需要root权限执行的操作。  
接着使用如下命令设置密码,可简单设置为 hadoop,按提示输入两次密码:

    $ sudo passwd hadoop

    $ sudo adduser hadoop sudo


    更新apt
    sudo apt-get update 

    后续需要更改一些配置文件,我比较喜欢用的是 vim(vi增强版,基本用法相同),建议安装一下(如果你实在还不会用 vi/vim 的,请将后面用到 vim 的地方改为 gedit,这样可以使用文本编辑器进行修改,并且每次文件更改完成后请关闭整个 gedit 程序,否则会占用终端):
     sudo apt-get install vim

二、 安装SSH、配置SSH无密码登陆

    集群、单节点模式都需要用到 SSH 登陆(类似于远程登陆,你可以登录某台 Linux 主机,并且在上面运行命令),Ubuntu 默认已安装了 SSH client,此外还需要安装 SSH server:

    $ sudo apt-get install openssh-server

Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04_第1张图片

    安装后,可以使用如下命令登陆本机:

    ssh localhost


    但这样登陆是需要每次输入密码的,我们需要配置成SSH无密码登陆比较方便。

    首先退出刚才的ssh,就回到了我们原先的终端窗口,然后利用ssh-keygen 生成密钥,并将密钥加入到授权中:

    exit                           # 退出刚才的 ssh localhost

    $ cd ~/.ssh/                     # 若没有该目录,请先执行一次

    ssh localhost ssh-keygen -t rsa              #会有提示,都按回车就可以

    cat ./id_rsa.pub  >>  ./authorized_keys # 加入授权

Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04_第2张图片

三、安装Java环境

    http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html

Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04_第3张图片

    创建一个目录/usr/lib/jvm以便于把下载解压后的包放到这个目录下。
    cd /usr/lib
    sudo mkdir jvm


    解压并把解压后的jdk文件夹放到/usr/lib/jvm目录中

    $ sudo tar -zxvf /home/hadoop/Desktop/jdk-8u161-linux-x64.tar.gz  -C /usr/lib/jvm/ 


    进入到/usr/lib/jvm目录下
    cd /usr/lib/jvm
    把解压后的jdk文件夹重命名为java1.8

    $ sudo mv jdk1.8.0_161/ java1.8


    先进入gedit编辑器,

      $ sudo gedit  ~/.bashrc

    在~/.bashrc的底部加入以下段落:

    export JAVA_HOME=/usr/lib/jvm/java1.8

    export JRE_HOME=${JAVA_HOME}/jre
    export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
    export PATH=${JAVA_HOME}/bin:$PATH


    需要使用命令使环境变量立即生效

    $ source  ~/.bashrc


    验证java安装是否成功

    java -version

Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04_第4张图片

    设置好后我们来检验一下是否设置正确:

    echo $JAVA_HOME

    $JAVA_HOME/bin/java -version

Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04_第5张图片

四、安装 Hadoop 2

    我们选择将 Hadoop 安装至 /usr/local/ 中:
    $ sudo tar -zxvf /home/hadoop/Desktop/hadoop-2.7.5.tar.gz -C /usr/local/     # 解压到/usr/local中
    $ cd /usr/local/
    $ sudo mv ./hadoop-2.7.5/ ./hadoop            # 将文件夹名改为hadoop
    $ sudo chown -R hadoop ./hadoop       # 修改文件权限


    Hadoop 解压后即可使用。输入如下命令来检查 Hadoop 是否可用,成功则会显示 Hadoop 版本信息:
    cd /usr/local/hadoop

    ./bin/hadoop version

Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04_第6张图片

五、 Hadoop单机配置(非分布式)

    Hadoop 默认模式为非分布式模式(本地模式),无需进行其他配置即可运行。非分布式即单 Java 进程,方便进行调试。

    Hadoop 可以在单节点上以伪分布式的方式运行,Hadoop 进程以分离的 Java 进程来运行,节点既作为 NameNode 也作为 DataNode,同时,读取的是 HDFS 中的文件。

    Hadoop 的配置文件位于 /usr/local/hadoop/etc/hadoop/ 中,伪分布式需要修改2个配置文件 core-site.xml 和 hdfs-site.xml 。Hadoop的配置文件是 xml 格式,每个配置以声明 property 的 name 和 value 的方式来实现。

    首先,先设置下hadoop默认的java路径,执行:

    gedit /usr/local/hadoop/etc/hadoop/hadoop-env.sh

Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04_第7张图片

    修改配置文件 core-site.xml (通过 gedit 编辑会比较方便: gedit ./etc/hadoop/core-site.xml)


   
        hadoop.tmp.dir
        file:/usr/local/hadoop/tmp
        Abase for other temporary directories.
   

   
        fs.defaultFS
        hdfs://localhost:9000
   


    同样的,修改配置文件 hdfs-site.xml:


   
        dfs.replication
        1
   

   
        dfs.namenode.name.dir
        file:/usr/local/hadoop/tmp/dfs/name
   

   
        dfs.datanode.data.dir
        file:/usr/local/hadoop/tmp/dfs/data
   

    配置完成后,执行 NameNode 的格式化:

    ./bin/hdfs namenode -format

Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04_第8张图片

    接着开启 NameNode 和 DataNode 守护进程。
    ./sbin/start-dfs.sh  #start-dfs.sh是个完整的可执行文件,中间没有空格

    终端显示上图两个红框内的内容即算设置成功,执行jps命令查看:

    $ jps

Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04_第9张图片

    成功启动后,可以访问 Web 界面 http://localhost:50070 查看 NameNode 和 Datanode 信息,还可以在线查看 HDFS 中的文件。

Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04_第10张图片


    以上就是安装的全部过程,再次感谢厦门大学数据库实验室对我学习的帮助!

你可能感兴趣的:(Hadoop安装教程_单机/伪分布式配置_hadoop-2.7.5/Ubuntu14.04)