Zookeeper 分布式服务协调治理框架介绍入门

Zookeeper最主要的使用场景，是作为分布式系统的分布式协同服务
资料：

• zookeeper官方文档 https://zookeeper.apache.org/doc/r3.7.0/zookeeperInternals.html#sc_consistency

其他：

• 3.5支持动态节点扩容，之前要么全部停止，要么一个一个停止更新
• zookeeper的核心 zab协议，是一个最终一致性的协议，因为除了主节点外其他节点都是异步写入的数据，客户端如果在未同步完成前读取数据，就有可能出现数据不一致。如果要保证强一致性，那么写入性能将大受影响。如过要保证最新的值，那么客户端API提供了sync()方法，读取节点数据前调用一下，节点就会和主节点进行最新的同步。

为甚么需要Zookeeper

分布式系统的信息传输不可靠可能导致信息不一致
分布式系统使用n个服务器组成集群，可以增强系统的计算能力，但是服务器之间的信息传输协调，依靠的是不可靠的网络传输。需要考虑网络延迟、中断、服务器之间的信息不对等等问题。所以需要通过某种方式，让每个服务器之间能够信息同步和共享。
让分布式系统信息同步和共享

• 方式1：通过网络进行信息共享 通过网络进行信息共享，每次有数据变动时直接通知给每台服务器。出现网络问题的话，可能就会数据不一致，并且后续加入的服务器无法得知之前的消息。
• **方式2：通过共享存储进行信息共享 **例如对于需要共享的数据，放在可以共享访问的数据库中，各个服务器定期主动拉取数据。
• 方式2优化 对于需要共享的数据，放在所有服务器都能共享访问的地方。并且当数据发生改变时，主动通知关注的服务器，这样各个服务器都能第一时间获取到最新的数据。Zookeeper就是这种方式实现的对分布式系统的协调。

一、Zookeeper 介绍

1.1 介绍

zookeeper 是一个开源的**分布式协调服务，**是一个典型的分布式数据一致性的解决方案。实现了分布式数据的强一致性！基于Zookeeper可以实现数据发布/订阅，负载均衡、命名服务、集群管理、分布式锁、分布式队列等功能。

1.2 Zookeeper中的一些概念

1.2.1 集群角色

• 在通常的集群方式中，最典型的就是Master/Slave模式(主备) ，这种模式对能够处理写操作的机器称为Master通过异步复制获取最新数据的称为Slave机器。
• Zookeeper没有直接使用M/S模式，引入了Leader、Follower、Observer三种角色。
• Zookeeper集群中所有机器通过Leader选举，选出Leader、Leader能提供事务写入服务，其他节点则仅提供读取服务，并且负责转发客户端写入事务到Leader节点。
• Observer和Follower节点的区别就是，Observer节点不参与投票，也不参与选举。Observer类型节点可以提升选举和投票的效率。

1.2.2 会话 session

• Session指的是客户端会话，zookeeper使用的是基于TCP的自己实现的通信协议。
• 会话指的就是客户端和服务端之间的一次TCP长连接的创建和销毁。客户端通过这个TCP长连接来和服务器保持有效的会话，也能向服务器发送请求接受响应，同时还能接受来自服务器的Watch事件。

1.2.3 数据节点 Znode

• 在分布式系统中，“节点”往往是指代一台机器，但是 Zookeeper中，节点可以指代构成集群的机器称为“机器节点”,另外往往指代zookeeper的一中数据模型的数据单元**，** 称为数据节点。
• Zookeeper 将所有数据存储在内存中，数据模型是一棵树 ZNode Tree，由斜杠 / 进行分割的路径，就是一个Znode，例如 /lock/app 。每个ZNode可以保存自己的数据内容，同时还会保存一系列属性信息。

1.2.4 版本

• 每个Znode会存储数据，并且Zookeeper会为其维护一个叫做叫做Stat的数据结构，Stat记录了这个ZNode的三个数据版本。
• version 指代当前的 Znode 保存的数据内容版本。
• cversion 指代当前ZNode子节点的版本
• aversion 当前ZNode的ACL版本

1.2.5 事件监听器 Watcher

Watcher是Zookeeper很重要的特性，Zookeeper允许客户端在指定节点上注册一些Watcher，并且在对应事件触发时主动通知到监听的客户端。这也是Zookeeper实现分布式协调服务的重要特性。

1.2.6 ACL 权限控制表(Access Control Lists)

Zookeeper 使用ACL (Access Control Lists) 策略来进行权限控制其包含了下面五种权限

1. CREATE 创建子节点的权限
2. READ 获取子节点和子节点列表的权限
3. WRITE 更新节点数据的权限
4. DELETE 删除子节点的权限
5. ADMIN 设置节点ACL的权限

二、 Zookeeper的系统模型

2.1.1 ZNode节点

• ZooKeeper中，数据信息被保存在一个个的数据节点上，这些节点称为znode
• ZNode是Zookeeper中最小的数据单位
• ZNode一层层可以往下挂Znode，最后形成一颗ZNode树，类似文件系统的层级树状结构。
• ZNode使用 / 来分割，/ 也表示根目录。
• 

2.1.2 ZNode的分类

ZooKeeper 的节点类型可以分为三类

• 持久性节点 Presistent 是Zookeeper中最常见的一种节点类型，节点被创建后除非主动删除否则会一直存在ZooKeeper服务中。
• 临时性节点 Ephemeral 会被自动清理的节点，生命周期和客户端会话绑定，一旦会话结束节点就会被删除。并且临时节点无法再创建子节点。
• 顺序节点 Sequential 顺序节点也分为临时顺序节点和持久顺序节点，顺序节点在创建后，会自动加上数字后缀，能体现节点的顺序。

2.1.3 事务ID

• 什么是事务：这里的事务不是指数据库的事务而是指能够改变ZooKeeper服务器状态的操作。称之为 实务操作，或者更新操作，一般包含数据节点的创建、删除、更新等等。
• 对于每一个事务请求，ZooKeeper 都会为其分配一个全局唯一的事务ID
• 事务ID用ZXID来标识，通常是一个64位的数字，每一个ZXID对应一次更新操作，从这些XZID中可以间接的识别出ZooKeeper处理这些更新操作请求的全局顺序。

2.1.4 ZNode的状态信息

[zk: localhost:15881(CONNECTED) 8] stat /zk-premament
cZxid = 0x100000006
ctime = Fri Jun 30 11:02:24 CST 2023
mZxid = 0x100000008
mtime = Fri Jun 30 11:03:38 CST 2023
pZxid = 0x100000006
cversion = 0
dataVersion = 1
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 3
numChildren = 0

• 查看ZNode的状态 stat /zk-premament
• cZxid Create ZXID 节点被创建时的事务ID
• ctime Create Time 标识节点创建的事件
• mZxid Modified ZXID 节点最后一次被修改时的事务ID
• mtime Modified Time 节点最后一次被修改的事件
• pZxid 子节点列表最后一次被更新时的事务ID。注意子节点内容变化这个id不会改变。
• cversion 标识子节点的版本号
• dataVersion 表示节点内容版本号
• acVersion 表示acl策略版本号
• ephemeralOwner 表示创建该临时节点的会话 sessionId 如果是持久性节点那么值为0
• dataLength 表示数据长度
• numChildren 表示直系子节点数

2.1.5 Watcher 数据变更通知

• ZooKeeper使用Watcher机制实现了分布式数据发布/订阅功能
• 在 ZooKeeper 中，引⼊了 Watcher 机制来实现这种分布式的通知功能。ZooKeeper 允许客户端向服务端注册⼀个 Watcher 监听，当服务端的⼀些指定事件触发了这个 Watcher，那么就会向指定客户端发送⼀个事件通知来实现分布式的通知功能。
• 
• Zookeeper的Watcher机制主要包括客户端线程、客户端WatcherManager、Zookeeper服务器三部分
• 具体⼯作流程为：
  1. 客户端在向Zookeeper服务器注册的同时，会将Watcher对象存储在客户端的WatcherManager当中。
  2. 当Zookeeper服务器触发Watcher事件后，会向客户端发送通知，客户端线程从WatcherManager中取出对应的Watcher对象来执⾏回调逻辑。

2.1.6 ACL 保障数据的安全

Zookeeper作为⼀个分布式协调框架，其内部存储了分布式系统运⾏时状态的元数据，这些元数据会直接影响基于Zookeeper进⾏构造的分布式系统的运⾏状态，因此，如何保障系统中数据的安全，从⽽避免因误操作所带来的数据随意变更⽽导致的数据库异常⼗分重要，在Zookeeper中，提供了⼀套完善的ACL（Access Control List）权限控制机制来保障数据的安全。

• 我们可以从三个⽅⾯来理解ACL机制：
  • 权限模式（Scheme）
  • 授权对象（ID）
  • 权限（Permission），
• 通常使⽤"scheme: id : permission"来标识⼀个有效的ACL信息。

**权限模式 Scheme **
用来确定权限验证过程中使用的检验策略，可以分成IP/IP段和账号密码，细分的话可以分为如下四种。

1. IP 通过ip地址的粒度来进行权限控制，可以配置某个IP也可以配置某个ip网段。
2. **Digest **是最常用的权限控制模式，更符合我们对权限控制的认识，使用“username:password”形式的权限标识来进行权限配置，可以区分不同的应用来进行权限控制。当我们通过username:password”配置了权限标识后，Zookeper会对其进行SHA-1加密和BASE64编码
3. **World **是一种开放的权限控制模式，即数据节点的权限对所有用户开放。也可以看成Digest的一种特殊形式。即 “world:anyone”
4. super 就是超级用户授权，启动zookeeper时修改zkServer.sh的启动命令脚本开启super模式，登录后添加超级管理员账户即可操作管理所有节点。
5. **Auth **授权用户，用户名:密码 ，需要先添加ACL账户

#1添加ACL账户
# addauth digest 用户名：密码
[zk: localhost:2181(CONNECTED) 4] addauth digest test:test123

#2创建测试节点
# create 测试节点 测试节点值
[zk: localhost:2181(CONNECTED) 3] create /test_acl value_of_test_acl

#3给测试节点设置Auth权限
# setAcl 测试节点 auth:用户名:crawd （权限）
[zk: localhost:2181(CONNECTED) 5] setAcl /test_acl auth:test:crawd

#第一步：将要设置的密码进行base64编码可以使用linux命令，也可以使用其他语言自己实现
>>echo -n test:test | openssl dgst -binary -sha1 | openssl base64
>>V28q/NynI4JI3Rk54h0r8O5kMug=

#第二步：创建测试节点
[zk: localhost:2181] create /digest user
#第三步：给节点设置 digest授权
[zk: localhost:2181] setAcl /digest digest:test:V28q/NynI4JI3Rk54h0r8O5kMug==:rwadc
#第四步：查询ACL
[zk: localhost:2181] getAcl /digest
#ACL输出结果
[zk: localhost:2181] addauth digest user:passwd

#开启SuperDigest超级管理员举例 
 
#1、修改zkServer.sh，加入super权限设置
SUPER_ACL="-Dzookeeper.DigestAuthenticationProvider.superDigest=super:gG7s8t3oDEtIqF6DM9LlI/R+9Ss="
 
#2、重新启动Zookeeper
# ./zkServer.sh restart
 
# 添加认证前无法访问节点
[zk: localhost:2181] ls /test
Authentication is not valid : /test

#3、使用super:super进行认证，添加super认证
[zk: localhost:2181) ] addauth digest super:super
#获得了节点权限
[zk: localhost:2181) ] ls /test
[]
[zk: localhost:2181)] get /test

权限ID
就是权限模式对应的内容，例如权限模式是IP那么对应的ID就是IP地址或网段

**权限Permission **
zookeeper中权限可以分为五大类

• CREATE（C）：数据节点的创建权限，允许授权对象在该数据节点下创建⼦节点
• DELETE（D）：⼦节点的删除权限，允许授权对象删除该数据节点的⼦节点。
• READ（R）：数据节点的读取权限，允许授权对象访问该数据节点并读取其数据内容或⼦节点列表等。
• WRITE（W）：数据节点的更新权限，允许授权对象对该数据节点进⾏更新操作。
• ADMIN（A）：数据节点的管理权限，允许授权对象对该数据节点进⾏ ACL 相关的设置操作。