ZooKeeper

文章目录

  • 一、概述
    • 1.1 工作机制
    • 1.2 特点
    • 1.3 数据结构
    • 1.4 应用场景
  • 二、Zookeeper安装
    • 2.1 本地模式安装部署
    • 2.2 配置参数解读
    • 2.3 分布式安装部署
  • 三、客户端命令行操作
  • 四、Java客户端操作

一、概述

Zookeeper是一个开源的分布式的,为分布式应用提供协调服务的Apache项目。

1.1 工作机制

Zookeeper从设计模式角度来理解:是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册,一旦这些数据的状态发生变化,Zookeeper就将负责通知已经在Zookeeper上注册的那些观察者做出相应的反应,从而实现集群中类似Master/Slave管理模式。
ZooKeeper_第1张图片

1.2 特点

ZooKeeper_第2张图片

  1. Zookeeper是由一个领导者(leader),多个跟随者(follower)组成的集群。Leader负责进行投票的发起和决议,更新系统状态;Follower用于接收客户请求并向客户端返回结果,在选举Leader过程中参与投票
  2. 集群中只要有半数以上节点存活,Zookeeper集群就能正常服务。
  3. 全局数据一致:每个server保存一份相同的数据副本,client无论连接到哪个server,数据都是一致的。
  4. 更新请求顺序进行,来自同一个client的更新请求按其发送顺序依次执行。
  5. 数据更新原子性,一次数据更新要么成功,要么失败。
  6. 实时性,在一定时间范围内,client能读到最新数据。

1.3 数据结构

ZooKeeper数据模型的结构与Unix文件系统很类似,整体上可以看作是一棵树,每个节点称做一个ZNode。每一个ZNode默认能够存储1MB的数据,每个ZNode都可以通过其路径唯一标识。
ZooKeeper_第3张图片

1.4 应用场景

提供的服务包括:统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。

①统一命名服务
在分布式环境下,经常需要对应用/服务进行统一命名,便于识别不同服务。

  • 类似于域名与ip之间对应关系,ip不容易记住,而域名容易记住
  • 通过名称来获取资源或服务的地址,提供者等信息
    ZooKeeper_第4张图片
    ②统一配管理

分布式环境下,配置文件管理和同步是一个常见问题。一个集群中,所有节点的配置信息是一致的,比如Hadoop集群。对配置文件修改后,希望能够快速同步到各个节点上。

配置管理可交由ZooKeeper实现。可将配置信息写入ZooKeeper上的一个Znode,各个节点监听这个Znode,一旦Znode中的数据被修改,ZooKeeper将通知各个节点。
ZooKeeper_第5张图片
③统一集群管理
分布式环境中,实时掌握每个节点的状态是必要的,可根据节点实时状态做出一些调整。

统一集群管理可交由ZooKeeper实现,可将节点信息写入ZooKeeper上的一个Znode,监听这个Znode可获取它的实时状态变化。

典型应用:HBaseMaster状态监控与选举。
ZooKeeper_第6张图片
④服务器动态上下线

客户端能实时洞察到服务器上下线的变化
ZooKeeper_第7张图片
⑤软负载均衡
Zookeeper中记录每台服务器的访问数,让访问数最少的服务器去处理最新的客户端请求
ZooKeeper_第8张图片

二、Zookeeper安装

2.1 本地模式安装部署

①前提:安装Jdk和下载zookeeper-3.4.10.tar.gz

②复制配置文件

[root@hadoop100 conf]$ cp zoo_sample.cfg zoo.cfg

③修改dataDir

[root@hadoop100 conf]$ vim zoo.cfg
dataDir=/opt/module/zookeeper-3.4.10/zkData
[root@hadoop100 zookeeper-3.4.10]$ mkdir zkData

④启动Zookeeper

[root@hadoop100 conf]$ bin/zkServer.sh start

⑤查看ZooKeeper启动状态

[root@hadoop100 conf]$ bin/zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg
Mode: standalone

2.2 配置参数解读

Zookeeper中的配置文件zoo.cfg中参数含义解读如下:

  1. tickTime =2000:通信心跳数,Zookeeper服务器与客户端心跳时间,单位毫秒
    Zookeeper使用的基本时间,服务器之间或客户端与服务器之间维持心跳的时间间隔,也就是每个tickTime时间就会发送一个心跳,时间单位为毫秒。它用于心跳机制,并且设置最小的session超时时间为两倍心跳时间。(session的最小超时时间是2*tickTime)
  2. initLimit =10:LF初始通信时限
    集群中的Follower跟随者服务器与Leader领导者服务器之间初始连接时能容忍的最多心跳数(tickTime的数量),用它来限定集群中的Zookeeper服务器连接到Leader的时限
  3. syncLimit =5:LF同步通信时限
    集群中LeaderFollower之间的最大响应时间单位,假如响应超过syncLimit * tickTimeLeader认为Follwer死掉,从服务器列表中删除Follwer
  4. dataDir:数据文件目录+数据持久化路径
    主要用于保存Zookeeper中的数据
  5. clientPort =2181:客户端连接端口
    监听客户端连接的端口

2.3 分布式安装部署

①在zkData目录下创建一个myid的文件

[root@hadoop100 zkData]$ vim myid
0

②分发该文件并修改值为1、2

[root@hadoop100 conf]$ xsync myid

③修改配置文件zoo.cfg并分发到其他服务器

[root@hadoop100 conf]$ vim zoo.cfg
#######################cluster##########################
server.0=hadoop100:2888:3888
server.1=hadoop101:2888:3888
server.2=hadoop102:2888:3888

配置参数说明server.A=B:C:D

A:表示这个是第几号服务器,即配置的myid
B:服务器的地址
C:服务器Follower与集群中的Leader服务器交换信息的端口
D:执行选举时服务器相互通信的端口

④分别启动Zookeeper

[root@hadoop100 zookeeper-3.4.10]$ bin/zkServer.sh start
[root@hadoop101 zookeeper-3.4.10]$ bin/zkServer.sh start
[root@hadoop102 zookeeper-3.4.10]$ bin/zkServer.sh start

⑤查看集群状态

[root@hadoop100 zookeeper-3.4.10]$ bin/zkServer.sh status
JMX enabled by default
Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg
Mode: follower
[root@hadoop101 zookeeper-3.4.10]$ bbin/zkServer.sh status
JMX enabled by default
Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg
Mode: leader
[root@hadoop102 zookeeper-3.4.10]$ bin/zkServer.sh status
JMX enabled by default
Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg
Mode: follower

三、客户端命令行操作

命令基本语法 功能描述
help 显示所有操作命令
ls path [watch] 使用ls命令来查看当前znode中所包含的内容
ls path [watch] 查看当前节点数据并能看到更新次数等数据
create 普通创建
-s 含有序列
-e 临时(重启或者超时消失)
get path [watch] 获得节点的值
set 设置节点的具体值
stat 查看节点状态
delete 删除节点
rmr 递归删除节点

①启动客户端

[root@hadoop100 zookeeper-3.4.10]$ bin/zkCli.sh

②显示所有操作命令

[zk: localhost:2181(CONNECTED) 0] help

③查看当前znode中所包含的内容

[zk: localhost:2181(CONNECTED) 1] ls /
[zookeeper]

④查看当前节点详细数据

[zk: localhost:2181(CONNECTED) 2] ls2 /
[zookeeper]
cZxid = 0x0
ctime = Thu Jan 01 08:00:00 CST 1970
mZxid = 0x0
mtime = Thu Jan 01 08:00:00 CST 1970
pZxid = 0x0
cversion = -1
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 0
numChildren = 1

⑤创建普通节点

[zk: localhost:2181(CONNECTED) 3] create /sanguo "history"
Created /sanguo

⑥获得节点的值

[zk: localhost:2181(CONNECTED) 5] get /sanguo
history
cZxid = 0x100000003
ctime = Wed Aug 29 00:03:23 CST 2018
mZxid = 0x100000003
mtime = Wed Aug 29 00:03:23 CST 2018
pZxid = 0x100000004
cversion = 1
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 7
numChildren = 1

⑦修改节点数据值

[zk: localhost:2181(CONNECTED) 6] set /sanguo "wuchenen"

⑧删除节点

[zk: localhost:2181(CONNECTED) 7] delete /sanguo

⑨递归删除节点

[zk: localhost:2181(CONNECTED) 8] rmr /sanguo

⑩查看节点状态

[zk: localhost:2181(CONNECTED) 9] stat /sanguo
cZxid = 0x100000003
ctime = Wed Aug 29 00:03:23 CST 2018
mZxid = 0x100000011
mtime = Wed Aug 29 00:21:23 CST 2018
pZxid = 0x100000014
cversion = 9
dataVersion = 1
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 4
numChildren = 1

四、Java客户端操作

引入依赖:

<dependency>
	<groupId>org.apache.zookeepergroupId>
	<artifactId>zookeeperartifactId>
	<version>3.4.10version>
dependency>

初始化ZooKeeper对象:

public class ZKTest {
     

    private static String connectString = "192.168.192.100:2181";

    private static int sessionTimeout = 2000;

    private ZooKeeper zkClient = null;

    @Before
    public void init() throws IOException {
     
		zkClient = new ZooKeeper(connectString, sessionTimeout, event -> {
     });
    }
}

创建子节点:

    @Test
    public void create() throws KeeperException, InterruptedException {
     
             zkClient.create("/jinguo", "simayu".getBytes(),
                ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);
    }

查看子节点信息:

    @Test
    public void chlidren() throws KeeperException, InterruptedException {
     
        List<String> children = zkClient.getChildren("/", true);
        children.forEach(child -> System.out.println(child));
    }

判断Znode是否存在

@Test
public void exist() throws Exception {
     
	Stat stat = zkClient.exists("/eclipse", false);
	System.out.println(stat == null ? "not exist" : "exist");
}

你可能感兴趣的:(大数据,zookeeper)