大数据Hadoop的HA高可用架构集群部署

 

 

 

1 概述

在Hadoop 2.0.0之前，一个Hadoop集群只有一个NameNode，那么NameNode就会存在单点故障的问题，幸运的是Hadoop 2.0.0之后解决了这个问题，即支持NameNode的HA高可用，NameNode的高可用是通过集群中冗余两个NameNode，并且这两个NameNode分别部署到不同的服务器中，其中一个NameNode处于Active状态，另外一个处于Standby状态，如果主NameNode出现故障，那么集群会立即切换到另外一个NameNode来保证整个集群的正常运行，那么接下来本文将重要介绍该如何搭建Hadoop的HA集群。

该环境是在 大数据平台Hadoop的分布式集群环境搭建 的基础上完成的

2 集群HA部署节点列表

注：Hadoop版本： Hadoop 2.7.5

NN（NameNode 名称节点）、DN（DataNode 数据节点）、ZK（Zookeeper）、ZKFC（ZKFailoverController）、JN（JournalNode 元数据共享节点）、RM（ResourceManager 资源管理器）、DM（DataManager 数据节点管理器）

3 安装Zookeeper集群

（1） 首先在slave1中安装

    a）下载zookeeper-3.4.9.tar.gz包

    b）解压：tar -zxvf zookeeper-3.4.9.tar.gz

    c）cd zookeeper-3.4.9/conf

    d）cp zoo_sample.cfg zoo.cfg

    e）修改zoo.cfg配置文件

tickTime=2000
dataDir=/home/hadoop/app/zookeeper/data
clientPort=2181
initLimit=10 syncLimit=5 server.1=slave1:2888:3888 server.2=slave2:2888:3888 server.3=slave3:2888:3888

（2）拷贝相同的一份zookeeper-3.4.9到slave2、slave3服务

（3）配置Zookeeper的环境变量并分别启动即可完成Zookeeper集群的部署

4 开始配置

（1）修改hdfs-site.xml，内容如下：

<configuration>  <property> <name>dfs.nameservicesname> <value>mastersvalue> property>  <property> <name>dfs.ha.namenodes.mastersname> <value>master1,master2value> property>  <property> <name>dfs.namenode.rpc-address.masters.master1name> <value>master1:8020value> property> <property> <name>dfs.namenode.rpc-address.masters.master2name> <value>master2:8020value> property>  <property> <name>dfs.namenode.http-address.masters.master1name> <value>master1:50070value> property> <property> <name>dfs.namenode.http-address.masters.master2name> <value>master2:50070value> property>  <property> <name>dfs.namenode.shared.edits.dir

转载于:https://www.cnblogs.com/xuexiqun784789432/p/9174874.html