ZooKeeper 是一个开源的分布式协调服务,由 Apache Software Foundation 开发维护。它为构建分布式应用程序提供了一套简单且高效的协调接口。ZooKeeper 的设计目的是为了简化分布式系统中常见的任务,例如命名、配置管理、同步(包括锁和选举)、组成员关系等。
ZooKeeper 提供了一个类似文件系统的层次结构数据模型,使用一系列以斜杠(/)分隔的名字来表示节点(称为 znode)。每个 znode 可以存储少量的数据(最多 1MB)以及拥有子节点。客户端可以通过创建、读取、更新或删除这些 znode 来实现各种协调功能。
主要特性包括:
ZooKeeper 常用于大型分布式系统中,如 Hadoop 分布式文件系统 (HDFS),Apache Kafka, Apache Storm 等,作为其核心组件之一来帮助管理集群状态和服务发现。
ZooKeeper 由于其强大的协调服务特性,被广泛应用于多种分布式系统的场景中。以下是一些常见的应用场景:
命名服务(Name Service):
配置管理(Configuration Management):
集群管理(Group Membership):
分布式锁(Distributed Locks):
领导者选举(Leader Election):
屏障(Barrier):
队列管理(Queue Management):
事件通知(Event Notification):
服务发现(Service Discovery):
这些只是 ZooKeeper 可能应用的一些领域;实际上,任何需要跨多个节点协调状态的应用程序都可以考虑使用 ZooKeeper 来简化开发和维护工作。随着微服务架构和云原生应用的发展,ZooKeeper 仍然是一个重要的工具,尽管有一些替代品如 etcd 和 Consul 也在这一领域提供了相似的功能。
ZooKeeper 的工作原理基于一个叫做 ZAB(ZooKeeper Atomic Broadcast)的协议,这是一个为分布式系统设计的原子消息广播协议。它的工作原理可以分为以下几个关键方面:
1. 集群结构
ZooKeeper 是以集群的形式运行的,通常由奇数个节点组成(如3、5或7),以确保能够达成多数派共识。每个 ZooKeeper 实例被称为一个服务器(Server)。在集群中,有一个领导者(Leader)和若干跟随者(Follower)。领导者负责处理所有的写操作,并协调跟随者的活动;而跟随者则处理读操作,并参与投票来选举新的领导者。
2. 领导者选举
当集群启动或者领导者失效时,会触发一次领导者选举过程。每个服务器都会提议自己作为领导者,然后通过一轮或多轮投票选出得票最多的服务器成为新的领导者。一旦选举完成,领导者就会开始接收客户端请求并协调集群中的其他服务器。
3. 数据模型与层次结构
ZooKeeper 提供了一个类似文件系统的数据模型,使用路径来表示不同的节点(称为 znode)。znode 可以包含数据以及拥有子节点。这个层次结构允许应用程序构建复杂的状态信息树形图。每个 znode 上的数据是原子性的,即要么全部读取成功,要么全部失败。
4. 写操作的一致性
对于写入请求,它们首先会被发送给领导者。领导者将这些更新提案转发给所有跟随者,等待大多数跟随者确认后才会应用更改。这保证了即使部分服务器故障,数据仍然保持一致性和持久性。如果领导者在写入过程中失败,则会触发新一轮的领导者选举。
5. 读操作的高效性
读操作可以直接由任意跟随者处理,不需要经过领导者,这样可以提高读取性能。由于数据在集群内被同步复制,因此跟随者持有的数据视图是最新且一致的。
6. 临时节点和监视机制
ZooKeeper 支持创建临时节点(ephemeral node),这类节点在其创建者断开连接后自动删除。此外,客户端可以设置监视器(Watcher)来监听特定 znode 的变化事件,比如数据更新、子节点添加等。当有变化发生时,ZooKeeper 会通知相应的客户端。
7. 版本控制
为了防止并发修改冲突,ZooKeeper 为每个 znode 维护了一个版本号。每次对 znode 进行更新时,版本号都会增加。客户端可以在执行更新前检查版本号,以确保他们正在操作的是最新的数据副本。
通过上述机制,ZooKeeper 能够提供高可用、强一致性的服务,适用于各种需要分布式协调的应用场景。
ZooKeeper 的通知机制是通过 Watcher(监视器)实现的,这是一种事件驱动的通知方式,允许客户端监听 ZooKeeper 中的数据节点(znode)的变化。当指定的 znode 发生了特定类型的变更时,ZooKeeper 会触发相应的事件,并向注册了该事件的客户端发送通知。
Watcher 特性
Watcher 的使用场景
Watcher 的生命周期
注意事项
总之,Watcher 提供了一种灵活且高效的方法来监控 ZooKeeper 中的状态变化,使得分布式系统中的各个组件能够及时响应环境的动态变化。
ZooKeeper 对节点的 Watch(监视)监听通知并不是永久的。每个 Watcher 是一次性触发的,这意味着一旦被激活或触发后,它就会自动移除。如果客户端希望持续接收到某个特定事件的通知,那么就需要在每次收到通知之后重新设置 Watcher。
一次性触发
例子
假设你有一个客户端程序定期检查某个配置 znode 的内容是否发生变化。你需要在每次读取配置时设置 Watcher:
Stat stat = new Stat();
byte[] data = zookeeper.getData("/config", true, stat); // 设置 watcher
// 当"/config" znode的数据发生变化时,会触发watcher并通知客户端。
在这个例子中,true 参数表示为这次 getData() 操作设置一个 Watcher。当 /config znode 的数据发生变化时,Watcher 将被触发,并且客户端将收到通知。然而,这之后如果还想继续监控该节点的变化,就必须在处理完这次通知后再重新设置 Watcher。
断开连接后的处理
另外需要注意的是,如果客户端与 ZooKeeper 服务器之间的连接断开了,所有之前设置的 Watchers 都将失效。因此,在客户端重新连接到 ZooKeeper 后,应该考虑重新设置那些重要的 Watchers。
综上所述,ZooKeeper 的 Watcher 机制设计为轻量级和一次性的,以避免长时间持有不必要的状态信息,并确保系统的高效性和稳定性。对于需要长期监控的需求,开发者应实现适当的逻辑来管理 Watcher 的创建和重置。