HDFS文件系统（二）

五. NameNode工作机制

5.1 NameNode&Secondary NameNode工作机制

1. 第一阶段：namenode启动

   1. 第一次启动namenode格式化后，创建fsimage和edits文件。如果不是第一次启动，直接加载编辑日志和镜像文件到内存。
   2. 客户端对元数据进行增删改的请求
   3. namenode记录操作日志，更新滚动日志。
   4. namenode在内存中对数据进行增删改查

2. 第二阶段：Secondary NameNode工作

   1. Secondary NameNode询问namenode是否需要checkpoint。直接带回namenode是否检查结果。
   2. Secondary NameNode请求执行checkpoint。
   3. namenode滚动正在写的edits日志
   4. 将滚动前的编辑日志和镜像文件拷贝到Secondary NameNode
   5. Secondary NameNode加载编辑日志和镜像文件到内存，并合并。
   6. 生成新的镜像文件fsimage.chkpoint
   7. 拷贝fsimage.chkpoint到namenode
   8. namenode将fsimage.chkpoint重新命名成fsimage

3. web端访问SecondaryNameNode

   1. 启动集群
   2. 浏览器中输入：http://hadoop102:50090/status.html
   3. 查看SecondaryNameNode信息

4. chkpoint检查时间参数设置

   • 通常情况下，SecondaryNameNode每隔一小时执行一次。

   	
   	[hdfs-default.xml]
   	
   		dfs.namenode.checkpoint.period
   		3600
   	
   
   

   • 一分钟检查一次操作次数，当操作次数达到1百万时，SecondaryNameNode执行一次。

   
   	[hdfs-default.xml]
   	
   		dfs.namenode.checkpoint.txns
   		1000000
   		操作动作次数
   		
   	
   		dfs.namenode.checkpoint.check.period
   		60
   		 1分钟检查一次操作次数
   	
   
   
   
   

5.2 镜像文件和编辑日志文件

1.概念

namenode被格式化之后，将在/opt/module/hadoop-2.7.2/data/tmp/dfs/name/current目录中

- Fsimage文件：HDFS文件系统元数据的一个永久性的检查点，其中包含HDFS文件系统的所有目录和文件idnode的序列化信息。 
- Edits文件：存放HDFS文件系统的所有更新操作的路径，文件系统客户端执行的所有写操作首先会被记录到edits文件中。 
- seen_txid文件保存的是一个数字，就是最后一个edits_的数字
- 每次Namenode启动的时候都会将fsimage文件读入内存，并从00001开始到seen_txid中记录的数字依次执行每个edits里面的更新操作，保证内存中的元数据信息是最新的、同步的，可以看成Namenode启动的时候就将fsimage和edits文件进行了合并。

2.oiv查看fsimage文件

1.
[atguigu@hadoop102 current]$ hdfs
oiv                  apply the offline fsimage viewer to an fsimage
oev                  apply the offline edits viewer to an edits file
2.基本语法
hdfs oiv -p 文件类型 -i镜像文件 -o 转换后文件输出路径
3.案例实操
[atguigu@hadoop102 current]$ pwd
/opt/module/hadoop-2.7.2/data/tmp/dfs/name/current
[atguigu@hadoop102 current]$ hdfs oiv -p XML -i fsimage_0000000000000000025 -o /opt/module/hadoop-2.7.2/fsimage.xml
[atguigu@hadoop102 current]$ cat /opt/module/hadoop-2.7.2/fsimage.xml
将显示的xml文件内容拷贝到eclipse中创建的xml文件中，并格式化。

3.oev查看edits文件

（1）基本语法
hdfs oev -p 文件类型 -i编辑日志 -o 转换后文件输出路径
（2）案例实操
[atguigu@hadoop102 current]$ hdfs oev -p XML -i edits_0000000000000000012-0000000000000000013 -o /opt/module/hadoop-2.7.2/edits.xml
[atguigu@hadoop102 current]$ cat /opt/module/hadoop-2.7.2/edits.xml
将显示的xml文件内容拷贝到eclipse中创建的xml文件中，并格式化。

5.3 集群安全模式操作

1. 概述

   Namenode启动时，首先将映像文件（fsimage）载入内存，并执行编辑日志（edits）中的各项操作。一旦在内存中成功建立文件系统元数据的映像，则创建一个新的fsimage文件和一个空的编辑日志。此时，namenode开始监听datanode请求。但是此刻，namenode运行在安全模式，即namenode的文件系统对于客户端来说是只读的。
   系统中的数据块的位置并不是由namenode维护的，而是以块列表的形式存储在datanode中。在系统的正常操作期间，namenode会在内存中保留所有块位置的映射信息。在安全模式下，各个datanode会向namenode发送最新的块列表信息，namenode了解到足够多的块位置信息之后，即可高效运行文件系统。
   如果满足“最小副本条件”，namenode会在30秒钟之后就退出安全模式。所谓的最小副本条件指的是在整个文件系统中99.9%的块满足最小副本级别（默认值：dfs.replication.min=1）。在启动一个刚刚格式化的HDFS集群时，因为系统中还没有任何块，所以namenode不会进入安全模式。

2. 基本语法

   集群处于安全模式，不能执行重要操作（写操作）。集群启动完成后，自动退出安全模式。

   （1）bin/hdfs dfsadmin -safemode get （功能描述：查看安全模式状态）

   （2）bin/hdfs dfsadmin -safemode enter （功能描述：进入安全模式状态）

   （3）bin/hdfs dfsadmin -safemode leave （功能描述：离开安全模式状态）

   （4）bin/hdfs dfsadmin -safemode wait （功能描述：等待安全模式状态）

3. 案例

   模拟等待安全模式

   1）先进入安全模式

    bin/hdfs dfsadmin -safemode enter
   

   2）执行下面的脚本

   编辑一个脚本

    #!/bin/bash
    bin/hdfs dfsadmin -safemode wait
    bin/hdfs dfs -put ~/hello.txt /root/hello.txt
   

   3）再打开一个窗口，执行

    bin/hdfs dfsadmin -safemode leave
   

六.DataNode工作机制

6.1 DataNode工作机制

1. 一个数据块在datanode上以文件形式存储在磁盘上，包括两个文件，一个是数据本身，一个是元数据包括数据块的长度，块数据的校验和，以及时间戳。

2. DataNode启动后向namenode注册，通过后，周期性（1小时）的向namenode上报所有的块信息。

3. 心跳是每3秒一次，心跳返回结果带有namenode给该datanode的命令如复制块数据到另一台机器，或删除某个数据块。如果超过10分钟没有收到某个datanode的心跳，则认为该节点不可用。

4. 集群运行中可以安全加入和退出一些机器

6.2 数据完整性

1. 当DataNode读取block的时候，它会计算checksum
2. 如果计算后的checksum，与block创建时值不一样，说明block已经损坏。
3. client读取其他DataNode上的block.
4. datanode在其文件创建后周期验证checksum

6.3 掉线时限参数设置

datanode进程死亡或者网络故障造成datanode无法与namenode通信，namenode不会立即把该节点判定为死亡，要经过一段时间，这段时间暂称作超时时长。HDFS默认的超时时长为10分钟+30秒。如果定义超时时间为timeout，则超时时长的计算公式为：timeout = 2 * dfs.namenode.heartbeat.recheck-interval + 10 * dfs.heartbeat.interval。
而默认的dfs.namenode.heartbeat.recheck-interval 大小为5分钟，dfs.heartbeat.interval默认为3秒。
需要注意的是hdfs-site.xml 配置文件中的heartbeat.recheck.interval的单位为毫秒，dfs.heartbeat.interval的单位为秒。

    dfs.namenode.heartbeat.recheck-interval
    300000


     dfs.heartbeat.interval 
    3

6.4 DataNode的目录结构

和namenode不同的是，datanode的存储目录是初始阶段自动创建的，不需要额外格式化。

1. 在/opt/module/hadoop-2.7.2/data/tmp/dfs/data/current这个目录下查看版本号

    [atguigu@hadoop102 current]$ cat VERSION 
   
    storageID=DS-1b998a1d-71a3-43d5-82dc-c0ff3294921b
   
    clusterID=CID-1f2bf8d1-5ad2-4202-af1c-6713ab381175
   
    cTime=0
    datanodeUuid=970b2daf-63b8-4e17-a514-d81741392165
   
    storageType=DATA_NODE
   
    layoutVersion=-56
   

2. 具体解释

   （1）storageID：存储id号

   （2）clusterID集群id，全局唯一

   （3）cTime属性标记了datanode存储系统的创建时间，对于刚刚格式化的存储系统，这个属性为0；但是在文件系统升级之后，该值会更新到新的时间戳。

   （4）datanodeUuid：datanode的唯一识别码

   （5）storageType：存储类型

   （6）layoutVersion是一个负整数。通常只有HDFS增加新特性时才会更新这个版本号。

3. 在/opt/module/hadoop-2.7.2/data/tmp/dfs/data/current/BP-97847618-192.168.10.102-1493726072779/current这个目录下查看该数据块的版本号
   [atguigu@hadoop102 current]$ cat VERSION

   #Mon May 08 16:30:19 CST 2017
   
   namespaceID=1933630176
   
   cTime=0
   
   blockpoolID=BP-97847618-192.168.10.102-1493726072779
   
   layoutVersion=-56
   

4. 具体解释

   （1）namespaceID：是datanode首次访问namenode的时候从namenode处获取的storageID对每个datanode来说是唯一的（但对于单个datanode中所有存储目录来说则是相同的），namenode可用这个属性来区分不同datanode。

   （2）cTime属性标记了datanode存储系统的创建时间，对于刚刚格式化的存储系统，这个属性为0；但是在文件系统升级之后，该值会更新到新的时间戳。

   （3）blockpoolID：一个block pool id标识一个block pool，并且是跨集群的全局唯一。当一个新的Namespace被创建的时候(format过程的一部分)会创建并持久化一个唯一ID。在创建过程构建全局唯一的BlockPoolID比人为的配置更可靠一些。NN将BlockPoolID持久化到磁盘中，在后续的启动过程中，会再次load并使用。

   （4）layoutVersion是一个负整数。通常只有HDFS增加新特性时才会更新这个版本号。

6.5 服役新数据节点

需求：随着公司业务的增长，数据量越来越大，原有的数据节点的容量已经不能满足存储数据的需求，需要在原有集群基础上动态添加新的数据节点。

1. 环境准备

   • 克隆一台虚拟机
   • 修改ip地址和主机名称
   • 修改xcall和xsync文件，增加新增节点的同步
   • 删除原来HDFS文件系统留存的文件/opt/module/hadoop-2.7.2/data

2. 服役新节点具体步骤

   1. 在namenode的/opt/module/hadoop-2.7.2/etc/hadoop目录下创建dfs.hosts文件

       [atguigu@hadoop105 hadoop]$ pwd
       /opt/module/hadoop-2.7.2/etc/hadoop
       [atguigu@hadoop105 hadoop]$ touch dfs.hosts
       [atguigu@hadoop105 hadoop]$ vi dfs.hosts
       添加如下主机名称（包含新服役的节点）
       hadoop102
       hadoop103
       hadoop104
       hadoop105
      

   2. 在namenode的hdfs-site.xml配置文件中增加dfs.hosts属性

      
      	dfs.hosts
      	/opt/module/hadoop-2.7.2/etc/hadoop/dfs.hosts
      
      

   3. 刷新namenode

      [atguigu@hadoop102 hadoop-2.7.2]$ hdfs dfsadmin -refreshNodes
      Refresh nodes successful
      

   4. 更新resourcemanager节点

      [atguigu@hadoop102 hadoop-2.7.2]$ yarn rmadmin -refreshNodes
      17/06/24 14:17:11 INFO client.RMProxy: Connecting to ResourceManager at hadoop103/192.168.1.103:8033
      

   5. 在namenode的slaves文件中增加新主机名称

      增加105  不需要分发
      hadoop102
      hadoop103
      hadoop104
      hadoop105
      

   6. 单独命令启动新的数据节点和节点管理器

      [atguigu@hadoop105 hadoop-2.7.2]$ sbin/hadoop-daemon.sh start datanode
      starting datanode, logging to /opt/module/hadoop-2.7.2/logs/hadoop-atguigu-datanode-hadoop105.out
      [atguigu@hadoop105 hadoop-2.7.2]$ sbin/yarn-daemon.sh start nodemanager
      starting nodemanager, logging to /opt/module/hadoop-2.7.2/logs/yarn-atguigu-nodemanager-hadoop105.out
      

   7. 在web浏览器上检查是否ok

3. 如果数据不均衡，可以用命令实现集群的再平衡

   [atguigu@hadoop102 sbin]$ ./start-balancer.sh
   starting balancer, logging to /opt/module/hadoop-2.7.2/logs/hadoop-atguigu-balancer-hadoop102.out
   Time Stamp   Iteration#  Bytes Already Moved  Bytes Left To Move  Bytes Being Moved
   

6.6 退役旧数据节点

1. 在namenode的/opt/module/hadoop-2.7.2/etc/hadoop目录下创建dfs.hosts.exclude文件

    [atguigu@hadoop102 hadoop]$ pwd
    /opt/module/hadoop-2.7.2/etc/hadoop
    [atguigu@hadoop102 hadoop]$ touch dfs.hosts.exclude
    [atguigu@hadoop102 hadoop]$ vi dfs.hosts.exclude
    添加如下主机名称（要退役的节点）
    hadoop105
   

2. 在namenode的hdfs-site.xml配置文件中增加dfs.hosts.exclude属性

    
    	dfs.hosts.exclude
    	/opt/module/hadoop-2.7.2/etc/hadoop/dfs.hosts.exclude
    
   

3. 刷新namenode、刷新resourcemanager

    [atguigu@hadoop102 hadoop-2.7.2]$ hdfs dfsadmin -refreshNodes
    Refresh nodes successful
    [atguigu@hadoop102 hadoop-2.7.2]$ yarn rmadmin -refreshNodes
    17/06/24 14:55:56 INFO client.RMProxy: Connecting to ResourceManager at hadoop103/192.168.1.103:8033
   

4. 检查web浏览器，退役节点的状态为decommission in progress（退役中），说明数据节点正在复制块到其他节点。

5. 等待退役节点状态为decommissioned（所有块已经复制完成），停止该节点及节点资源管理器。注意：如果副本数是3，服役的节点小于等于3，是不能退役成功的，需要修改副本数后才能退役。·

   [atguigu@hadoop105 hadoop-2.7.2]$ sbin/hadoop-daemon.sh stop datanode
   stopping datanode
   [atguigu@hadoop105 hadoop-2.7.2]$ sbin/yarn-daemon.sh stop nodemanager
   stopping nodemanager
   

6. 从include文件中删除退役节点，再运行刷新节点的命令

   1. 从namenode的dfs.hosts文件中删除退役节点hadoop105

      hadoop102
      hadoop103
      hadoop104
      

   2. 刷新namenode，刷新resourcemanager

      [atguigu@hadoop102 hadoop-2.7.2]$ hdfs dfsadmin -refreshNodes
      Refresh nodes successful
      [atguigu@hadoop102 hadoop-2.7.2]$ yarn rmadmin -refreshNodes
      17/06/24 14:55:56 INFO client.RMProxy: Connecting to ResourceManager at hadoop103/192.168.1.103:8033
      

7. 从namenode的slave文件中删除退役节点hadoop105

   hadoop102
   hadoop103
   hadoop104
   

8. 如果数据不均衡，可以用命令实现集群的再平衡

   [atguigu@hadoop102 hadoop-2.7.2]$ sbin/start-balancer.sh 
   starting balancer, logging to /opt/module/hadoop-2.7.2/logs/hadoop-atguigu-balancer-hadoop102.out
   Time Stamp   Iteration#  Bytes Already Moved  Bytes Left To Move  Bytes Being Moved