Hadoop-HDFS分布式环境

HDFS简单介绍

HDFS的英文全称是Hadoop Distributed File System，顾名思义，就是Hadoop分布式文件系统，是根据Google的GFS的论文，由Doug Cutting使用Java开发的开源项目。HDFS本身是Hadoop项目的一部分，为Hadoop提供了底层的数据存储，以供上层的各种实际应用使用（如Map/Reduce）。HDFS是典型的Master/Slave集群架构，由一个NameNode和多个DataNode组成，NameNode只能是一个，扮演着Master的角色，负责对具体存储块的元数据进行保存，如某个存储块具体保存在哪个DataNode上；DataNode可以为多个，扮演着Slave的角色，负责对具体的存储块进行保存，一个相同的存储块根据配置可以保存到多个DataNode上，以保持数据的高可用性。客户端与HDFS交互时，典型的，会先询问NameNode具体的存储块在哪个DataNode上，然后客户端会直接联系相应的DataNode，来获取或写入数据。各个DataNode会定时发送心跳至NameNode，以便NameNode了解DataNode的可用状态及存储状态，这样可以保证某一个DataNode挂掉，NameNode可以做相应处理，以保证数据的高可用性。

HDFS的目标就是使用大量的廉价PC机，来维护海量的大数据块，并且保证数据的高可用性，并且HDFS集群会随着更多PC机的加入，而提高数据的存储量（当然这与具体环境的硬盘相关）与吞吐量（当然这与具体环境的网卡带宽相关），单个Hadoop集群一般最大可达2000个节点。

在可预见的未来，大数据（BigData）必然会常态化，当前业内的IT巨头均在对HDFS进行研究，如Google，Yahoo，阿里等，不过，开源世界好就好在，“科技巨头”搞的玩意，我们草根也可以尝试一下，呵呵，下面就具体介绍一下HDFS的分布式环境搭建。

 

具体搭建环境描述

由三台机器组成，1台NameNode，2台DataNode

NameNode:172.16.4.14

DataNode:172.16.4.20

DataNode:172.16.3.35

 

具体搭建过程描述

三台机器的所有配置保持一致就可以了，下面是以NameNode机器上的配置过程进行描述：

1、安装Java1.6（略）；

2、以root登录，为HDFS新建一个帐号（不是必须的，但这样比较符合linux下的安全规范，呵呵）

[root@test-2 ~]# useradd hdfs

[root@test-2 ~]# passwd hdfs

Changing password for user test.

New UNIX password:

Retype new UNIX password:

passwd: all authentication tokens updated successfully.

 

3、下载Hadoop软件包，官方下载地址：http://www.apache.org/dyn/closer.cgi/hadoop/core/

使用hdfs用户上传至/home/hdfs目录，并解压至 /home/hdfs/hadoop

[hdfs@test-2 ~]# tar -zxvf hadoop-0.21.0.tar.gz

 

4、增加HADOOP_HOME环境变量

在.bash_profile中，增加

export HADOOP_HOME /home/hdfs/hadoop

使修改生效

[hdfs@test-2 ~]$ . .bash_profile

 

5、修改JAVA_HOME环境变量

编辑/home/hdfs/hadoop/conf/hadoop-env.sh

将JAVA_HOME的值修改为真实有效的地址，如果不知道，请执行echo $JAVA_HOME 查看；

 

6、配置ssh环境

对HDFS的各种操作，是通过ssh登录后进行，默认情况下，需要多次输入密码，比较麻烦（你可以执行ssh localhost试一试，看看是否需要输入密码），我们要对ssh进行配置；

执行下面命令：

[hdfs@test-2 ~]# ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa

[hdfs@test-2 ~]# cat /home/hdfs/.ssh/id_dsa.pub > /home/hdfs/.ssh/authorized_keys

[hdfs@test-2 ~]# chmod 600 /home/hadoop/.ssh/authorized_keys //这句必须要执行

 

然后你可以通过scp命令，将authorized_keys拷贝至所有的DataNode机器上，并在DataNode机器上对authorized_keys文件赋予600的权限

[hdfs@test-2 ~]# scp -r /home/hdfs/.ssh [email protected]:/home/hdfs

完成以上操作后，可以尝试命令ssh localhost，以及ssh 172.16.4.20，看看现在使用ssh是否需要密码了，如果不需要，那恭喜你，成功了

 

7、对/home/hdfs/hadoop/conf/下的几个关键配置文件进行配置

core-site.xml配置

 

    

         fs.default.name

         hdfs://172.16.4.14:9000

    

 

 

hdfs-site.xml配置

 

    

         dfs.name.dir

         /home/hdfs/hadoop/data/dfs.name.dir

    

    

         dfs.data.dir

         /home/hdfs/hadoop/data/dfs.data.dir

    

    

         dfs.permissions

         false

    

    

         dfs.replication

         2

    

 

 

masters配置

172.16.4.14

 

slaves配置

172.16.3.35

172.16.4.20

 

并将所有改动的配置文件，同步至每个DataNode机器的相同文件夹下（仍然可使用scp命令）

 

8、对NameNode进行格式化（该操作只需对NameNode操作）

执行

[hdfs@test-2 bin]$ /home/hdfs/hadoop/bin/hadoop namenode -format

 

9、启动！

ok，至此最基本的配置已经完成，是不是还挺简单的？呵呵

让我们来启动HDFS吧，只需要对master机器进行操作哦（还记得前面说的，会通过ssh连上slave机器，对DataNode进行操作吧？）；

执行

[hdfs@test-2 bin]$ /home/hdfs/hadoop/bin/start-dfs.sh

 

如果启动遇到问题，请对NameNode或DataNode的日志进行查看，路径为/home/hdfs/hadoop/logs，看看是否有Exception抛出。

 

10、简单对HDFS进行试用

与HDFS交互的脚本均在/home/hdfs/hadoop/bin下，我们这里主要以./hadoop脚本为例

创建一个名为newdir的新目录

[hdfs@test-2 bin]$ ./hadoop fs -mkdir newdir

查看HDFS文件系统/user/hdfs目录下的文件列表

[hdfs@test-2 bin]$ ./hadoop fs -ls /user/hdfs

在我的机器上，输出：

11/10/01 23:55:10 INFO security.Groups: Group mapping impl=org.apache.hadoop.security.ShellBasedUnixGroupsMapping; cacheTimeout=300000

11/10/01 23:55:10 WARN conf.Configuration: mapred.task.id is deprecated. Instead, use mapreduce.task.attempt.id

Found 4 items

drwxr-xr-x   - hdfs      supergroup          0 2011-09-26 17:30 /user/hdfs/apk

drwxr-xr-x   - hdfs      supergroup          0 2011-09-22 11:35 /user/hdfs/mydir

drwxr-xr-x   - Doug.Wang supergroup          0 2011-09-22 11:35 /user/hdfs/mydir_1

drwxr-xr-x   - hdfs      supergroup          0 2011-10-01 23:52 /user/hdfs/newdir

 

可以看到，我之前建立的文件夹apk,mydir,mydir_1和newdir，其他的操作指令可通过./hadoop fs来进行查看

 

写在最后的

在搭建了HDFS的最简分布式环境后，对HDFS集群进行了简单的并发访问测试。首先将13M左右的文件存储至HDFS，然后客户端同时进行1000个并发读的操作，基本上，性能瓶颈就在HDFS节点的网卡上了。

下面这种场景，应该是不适合使用HDFS的：

在同一个IDC内部，部署一个HDFS集群，并且内部均存储着较大的文件（1M-100M），在同一个IDC内部，有多台机器作为客户端会访问HDFS集群，通过内部千兆以太网去读取文件。试想，如果客户端请求较多时，IDC内部的以太网通道马上就堵塞了，可能会引起“数据风暴”。

因此，在实践中，我们对HDFS的使用，大概应当是这样的：不要将HDFS作为一个单纯的存储系统来使用，而应当结合HDFS上层的Map/Reduce架构，使HDFS中的大块数据并不会频繁地进行传输移动。数据在哪，我们就在哪进行计算。这也是符合Hadoop的设计目标与基本假设的：“移动计算比移动数据更加经济”。