cdh-HDFS HA配置硬件

要使用基于Quorum的存储部署HA群集,您应该准备以下内容:
1.NameNode hosts:这些是您在其上运行活动和备用NameNode的主机。它们应该具有相同的硬件,以及与非HA集群中使用的硬件等效的硬件。
2.JournalNode hosts:这些是您运行JournalNodes的主机。 Cloudera建议您在“主”主机或主机上部署JournalNode守护程序(NameNode,Standby NameNode,JobTracker等),以便JournalNodes的本地目录可以使用这些机器上的可靠本地存储。
3.如果共同位于同一个主机上,则每个JournalNode进程和每个NameNode进程应该有它自己的专用磁盘。您不应将SAN或NAS存储用于这些目录。
4.必须至少有三个JournalNode守护进程,因为编辑日志修改必须写入大多数JournalNode。这将允许系统容忍单个主机的故障。您也可以运行三个以上的JournalNodes,但实际上增加了系统可以容忍的故障数量,您应该运行奇数个JournalNode(三个,五个,七个等等)。请注意,在运行N个JournalNodes时,系统最多可以承受(N-1)/ 2次故障并继续正常运行。如果必需的法定人数不可用,NameNode将不会格式化或启动,您将看到类似如下的错误:

12/10/01 17:34:18 WARN namenode.FSEditLog: Unable to determine input streams from QJM to [10.0.1.10:8485, 10.0.1.10:8486, 10.0.1.10:8487]. Skipping.
java.io.IOException: Timed out waiting 20000ms for a quorum of nodes to respond.

注意:在HA群集中,备用NameNode还执行名称空间状态的检查点,因此不需要在HA群集中运行Secondary NameNode,CheckpointNode或BackupNode。事实上,这样做会是一个错误。如果要将非启用HA的HDFS群集重新配置为启用HA,则可以重新使用之前专用于Secondary NameNode的硬件。

你可能感兴趣的:(hdfs,cdh)