11. HDFS主要流程之HA切换流程

在Hadoop 2.X之前，Namenode是HDFS集群中可能发生单点故障的节点，即每个HDFS集群中只有一个Namenode，一旦这个节点不可用，整个HDFS集群就将处于不可用状态。HDFS的高可用(High Availability，HA)方案就是为了解决上述问题而产生的，下图给出了一个HA HDFS集群，图片来源https://issues.apache.org/jira/browse/HDFS-1623 的NameNode HA_v2_1.pdf文档

11. HDFS HA 切换流程.png

在HA HDFS集群中会同时运行两个Namenode，一个作为活动的(Active)Namenode，一个作为备份的(Standby)Namenode。Active Namenode的命名空间与Standby Namenode是实时同步的，所以当Active Namenode发生故障而停止服务时，Standby Namenode可以立即切换为活动状态，而不影响HDFS集群的服务。

为了使Standby 与 Active 的状态能够同步一致，就要求两个Namenode的命名空间一致并且数据块与Datanode之间的对应关系一致。对于命名空间的一致性，两个节点都需要与一组独立运行的节点(JournalNodes,JNS)通信，当Active Namenode执行了修改命名空间的操作时，它会定期将执行的操作记录在editlog中，并写入JNS的多数节点中。而Standby Namenode会一直监听JNS上editlog的变化，如果发现editlog有改动，Standby Namenode就会读取editlog并与当前的命名空间合并。当发生了错误切换时，standby节点会先保证已经从JNS上读取了所有的editlog并与当前的命名空间合并，然后才会从Standby状态切换为Active状态。通过这种机制，保证了Active Namenode与Standby Namenode之间命名空间状态的一致性。而对于数据块与Datanode对应关系的一致性，则要求HDFS集群中的所有Datanode同时向这两个Namenode发送心跳及块汇报信息，这样Active Namenode和Standby Namenode的数据块与Datanode之间的对应关系也就完全同步了，一旦发生古装，就可以马上切换，也就是热备。

HDFS提供了HA管理命令(DFSHAAdmin)使得管理员可以手动执行主备切换，同时还提供了自动Failover机制，该机制依赖于两个新增的网元：一个是Zookeeper集群，一个是ZKFailoverController(org.apache.hadoop.ha.ZKFailoverController)。ZKFailoverController会实时监控Namenode的HA状态，如果Active Namenode处于不可服务状态，那么ZKFailoverController会自动触发主备切换操作，无须管理员执行任何命令