一致性算法 - Distro协议在Nacos的实践

-     引文    -​​​​

本系列文章前面几篇已经总体介绍了一致性、AP的Gossip、CP的Raft。接下去咱们了解一个简单的AP协议：Distro协议。Distro是阿里巴巴的私有协议，目前流行的Nacos服务管理框架就采用了Distro协议。Distro 协议被定位为 临时数据的一致性协议 ：该类型协议， 不需要把数据存储到磁盘或者数据库 ，因为临时数据通常和服务器保持一个session会话， 该会话只要存在，数据就不会丢失 。

Distro 协议保证写必须永远是成功的，即使可能会发生网络分区。当网络恢复时，把各数据分片的数据进行合并。

Distro 协议具有以下特点：

• 专门为了注册中心而创造出的协议；

• 客户端与服务端有两个重要的交互，服务注册与心跳发送；

• 客户端以服务为维度向服务端注册，注册后每隔一段时间向服务端发送一次心跳，心跳包需要带上注册服务的全部信息，在客户端看来，服务端节点对等，所以请求的节点是随机的；

• 客户端请求失败则换一个节点重新发送请求；

• 服务端节点都存储所有数据，但每个节点只负责其中一部分服务，在接收到客户端的“写”（注册、心跳、下线等）请求后，服务端节点判断请求的服务是否为自己负责，如果是，则处理，否则交由负责的节点处理；

• 每个服务端节点主动发送健康检查到其他节点，响应的节点被该节点视为健康节点；

• 服务端在接收到客户端的服务心跳后，如果该服务不存在，则将该心跳请求当做注册请求来处理；

• 服务端如果长时间未收到客户端心跳，则下线该服务；

• 负责的节点在接收到服务注册、服务心跳等写请求后将数据写入后即返回，后台异步地将数据同步给其他节点；

• 节点在收到读请求后直接从本机获取后返回，无论数据是否为最新。

-     节点管理    -​​​​​

Distro协议服务端节点发现使用寻址机制来实现服务端节点的管理。在Nacos中，寻址模式有三种：

• 单机模式：StandaloneMemberLookup

• 文件模式：FileConfigMemberLookup -- 利用监控cluster.conf文件的变动实现节点的管理。核心代码如下:

• 服务器模式：AddressServerMemberLookup – 使用地址服务器存储节点信息，服务端节点定时拉取信息进行管理

核心代码如下： 

-     数据同步    -

初始全量同步

Distro协议节点启动时会从其他节点全量同步数据。在Nacos中，整体流程如下：

• 启动一个定时任务线程DistroLoadDataTask加载数据，调用load()方法加载数据

• 调用loadAllDataSnapshotFromRemote()方法从远程机器同步所有的数据

• 从namingProxy代理获取所有的数据data

  • 构造http请求，调用httpGet方法从指定的server获取数据

  • 从获取的结果result中获取数据bytes

• 处理数据processData

  • 从data反序列化出datumMap

  • 把数据存储到dataStore，也就是本地缓存dataMap

  • 监听器不包括key，就创建一个空的service，并且绑定监听器

• 监听器listener执行成功后，就更新data store

核心代码如下：

增量同步

       新增数据使用异步广播同步：

• DistroProtocol 使用 sync() 方法接收增量数据

• 向其他节点发布广播任务

  • 调用 distroTaskEngineHolder 发布延迟任务

• 调用 DistroDelayTaskProcessor.process() 方法进行任务投递：将延迟任务转换为异步变更任务

• 执行变更任务 DistroSyncChangeTask.run() 方法：向指定节点发送消息

  • 调用 DistroHttpAgent.syncData() 方法发送数据

  • 调用 NamingProxy.syncData() 方法发送数据

• 异常任务调用 handleFailedTask() 方法进行处理

  • 调用 DistroFailedTaskHandler 处理失败任务

  • 调用 DistroHttpCombinedKeyTaskFailedHandler 将失败任务重新投递成延迟任务。

核心代码如下：

 

-     总结    -

       Distro协议是阿里的私有协议，但是对外开源框架只有Nacos。所有我们只能从Nacos中一窥Distro协议。Distro协议是一个比较简单的最终一致性协议。整体由节点寻址、数据全量同步、异步增量同步、定时上报client所有信息、心跳探活其他节点等组成。

       本文中的Nacos源码版本为Nacos 1.3.2 ，属于优化过的源码，抽象出一致性协议抽象接口，和JRaft共用节点寻址模式。

-     作者介绍    -

林淮川

毕业于西安交通大学；奈学教育《百万架构师训练营》讲师、企业级源码内源负责人，前大树金融高级架构师、技术委员会开创者、技术总监；前天阳宏业交易事业部技术主管；多年互联网金融行业（ToB）经验。