Hadoop 入门笔记 十 二 : HDFS Federation联邦机制

一. 当前HDFS体系架构

1. 简介

当前的HDFS架构有两个主要的层：

• 命名空间(namespace)
  HDFS体系结构中的命名空间层由文件，块和目录组成。该层支持与名称空间相关的文件系统操作，例如创建，删除，修改和列出文件和目录。
• 块存储层(Block Storage)
  块存储层包括两个部分:
  块管理： NameNode执行块管理。块管理通过处理注册和定期心跳来提供DataNode群集成员身份。它处理块报告并支持与块相关的操作，如创建，删除，修改或获取块位置。它还维护块的位置，副本位置。为未复制的块管理块复制，并在已复制的块中删除。
  存储: DataNode通过在本地文件系统上存储块并提供读/写访问权限来管理存储空间。

2.局限性

当下的HDFS体系结构仅允许单个NameNode维护文件系统名称空间。注意HA体系中虽然说允许多个NameNode，但是他们所维护的是同一套文件系统名称空间。这种体系目前存在着一些弊端和局限性：

• DataNode磁盘存储空间不够增加节点，NameNode内存不够是否可以无限扩容。一种是DataNode横向扩展机器增加节点，一种是纵向扩展单机加内存。
• 由于名称空间和存储层的紧密耦合，NameNode的替代实现很困难。这限制了其他服务直接使用块存储。唯一的NameNode成了唯一入口。
• 文件系统的操作还限于NameNode一次处理的任务数。因此，群集的性能取决于NameNode吞吐量。
• 同样，由于使用单个名称空间，因此使用群集的占用者组织之间没有隔离。

二. HDFS Federation架构

1. 简介

Federation中文意思为联邦,联盟，是NameNode之间的Federation,也就是集群中会有多个NameNode。多个NameNode的情况意味着有多个namespace。注意，这区别于HA模式下的多NameNode，HA中它们是拥有着同一个namespace。
Federation体系中多个namenode之间相互独立且不需要互相协调，各自分工，管理自己的区域。 每个DataNode要向集群中所有的namenode注册，且周期性地向所有namenode发送心跳和块报告，并执行来自所有namenode的命令。

上图中，有多个NameNode，分别表示为NN1，NN2，.. NNn。NS1，NS2等是由它们各自的NameNode管理的多个名称空间。
每个名称空间都有其自己的块池（block pool）（NS1具有Pool1，NS2具有Pool2，依此类推）。每个DataNode存储集群中所有块池的块。
HDFS Federation体系结构中的块池是属于单个名称空间的块的集合。每个块池彼此独立地进行管理。在删除NameNode或名称空间时，DataNode中存在的相应块池也将被删除。在升级群集时，每个名称空间卷都作为一个单元进行升级。

2. 优点

• 命名空间可伸缩性
  使用Federation，可以水平扩展名称空间。这对大型群集或包含太多小文件的群集有利，因为向群集添加了更多的NameNode。
• 性能
  由于文件系统操作不受单个NameNode吞吐量的限制，因此可以提高文件系统的性能。
• 隔离
  由于有多个名称空间，它可以为使用集群的占用者组织提供隔离。

3. HDFS Federation配置示例

1. core-site.xml

   
   
   
   fs.defaultFS
   viewfs:///
   
   
   
   fs.viewfs.mounttable.default.link./bi
   hdfs://bi/
   
   
   
   fs.viewfs.mounttable.default.link./dt
   hdfs://dt/
   
   
   
   
   hadoop.tmp.dir
   /home/hadoop/apps/hdpdata/
   
   
   
   
   ha.zookeeper.quorum
   mini5:2181,mini6:2181,mini7:2181
   
   

2. hdfs-site.xml

dfs.nameservices
bi,dt



dfs.ha.namenodes.bi
nn1,nn2



dfs.ha.namenodes.dt
nn3,nn4




dfs.namenode.rpc-address.bi.nn1
mini1:9000



dfs.namenode.http-address.bi.nn1
mini1:50070



dfs.namenode.rpc-address.bi.nn2
mini2:9000



dfs.namenode.http-address.bi.nn2
mini2:50070




dfs.namenode.rpc-address.dt.nn3
mini3:9000



dfs.namenode.http-address.dt.nn3
mini3:50070



dfs.namenode.rpc-address.dt.nn4
mini4:9000



dfs.namenode.http-address.dt.nn4
mini4:50070








dfs.namenode.shared.edits.dir
qjournal://mini5:8485;mini6:8485;mini7:8485/bi



dfs.namenode.shared.edits.dir
qjournal://mini5:8485;mini6:8485;mini7:8485/dt





dfs.journalnode.edits.dir
/home/hadoop/apps/hdpdata/journaldata



dfs.ha.automatic-failover.enabled
true





dfs.client.failover.proxy.provider.bi
org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider



dfs.client.failover.proxy.provider.dt
org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider




dfs.ha.fencing.methods

sshfence
shell(/bin/true)




dfs.ha.fencing.ssh.private-key-files
/home/hadoop/.ssh/id_rsa



dfs.ha.fencing.ssh.connect-timeout
30000

3. mapred-site.xml

mapreduce.framework.name
yarn

    

4.yarn-site.xml

yarn.resourcemanager.ha.enabled
true



yarn.resourcemanager.cluster-id
yrc



yarn.resourcemanager.ha.rm-ids
rm1,rm2



yarn.resourcemanager.hostname.rm1
mini3


yarn.resourcemanager.hostname.rm2
mini4



yarn.resourcemanager.zk-address
mini5:2181,mini6:2181,mini7:2181


yarn.nodemanager.aux-services
mapreduce_shuffle

4.Federation初始化步骤

先启动zookeeper集群
再在5/6/7上启动journalnode
hadoop-daemon.sh start journalnode


在bi下nn1上  
hdfs namenode -format –clusterID itcast
hdfs zkfc -formatZK
拷贝元数据目录到standby(nn2)

在dt下nn3上  
hdfs namenode -format –clusterID itcast   ###clusterID必须与bi的相同
hdfs zkfc -formatZK
拷贝元数据目录到standby(nn4)

在bi下nn1上
sbin/start-dfs.sh

在resoucemanager配置的主机上启动yarn
sbin/start-yarn.sh