连肝两宿,做出这18张图,彻底让你学会“一致性哈希”一

连肝两宿,做出这18张图,彻底让你学会“一致性哈希”一_第1张图片

前言

当架构师大刘看到实习生小李提交的记账流水乱序的问题的时候,他知道没错了:这一次,大刘又要用一致性哈希这个老伙计来解决这个问题了。

嗯,一致性哈希,分布式架构师必备良药,让我们一起来尝尝它。

一、满眼都是自己二十年前的样子,让我们从哈希开始

在 N 年前,互联网的分布式架构方兴未艾。大刘所在的公司由于业务需要,引入了一套由 IBM 团队设计的业务架构。

连肝两宿,做出这18张图,彻底让你学会“一致性哈希”一_第2张图片


这套架构采用了分布式的思想,通过 RabbitMQ 的消息中间件来通信。这套架构,在当时的年代里,算是思想超前,技术少见的黑科技架构了。

但是,由于当年分布式技术落地并不广泛,有很多尚不成熟的地方。所以,这套架构在经年日久的使用中,一些问题逐渐突出。其中,最典型的问题有两个:

  1. RabbitMQ 是个单点,它一坏掉,整个系统就会全部瘫痪。

  2. 收、发消息的业务系统也是单点。任何一点出现问题,对应队列的消息要么无从消费,要么海量消息堆积。

无论哪种问题,最终是整套分布式系统都无法使用,后续处理非常麻烦。

对于 RabbitMQ 的单点问题,由于当时 RabbitMQ 的集群功能非常弱,普通模式有 queue 本身的单点问题,所以,最终使用了 Keepalived 配合了两台无关系的 RabbitMQ 搞出了高可用。对于新手小白想更轻松的学好Java提升,Java架构,web开发、大数据,数据分析,人工智能等技术,这里给大家分享系统教学资源,加下我尉(同英):1253431195【教程/工具/方法/解疑】

而对于业务系统单点问题,从一开始着手解决的时候就出现了波折。一般来说,我们要解决单点问题,方法就是堆机器,堆应用。收发是单点,我们直接多部署几个应用就可以了。如果仅仅从技术上看,无非就是多个收发消息的应用大家一起竞争往 MQ 中放消息拿消息而已。

连肝两宿,做出这18张图,彻底让你学会“一致性哈希”一_第3张图片

但是,恰恰就是在把收发消息的应用集群化后,系统出现了问题。

本身这套系统架构会被应用到公司的多类业务上,有些业务对消息的顺序有着苛刻的要求。

比如,公司内部的 IM 应用,不管是点对点的聊天还是群聊消息,都需要对话消息严格有序。而当我们把生产消息和消费消息的应用集群化后,问题出现了:

聊天记录出现了乱序

A 和 B 对话,会出现某些消息没有严格按照 A 发出的先后顺序被 B 接收,于是整个聊天顺序乱成了一锅粥。

经过排查,发现问题的根源就在于应用集群上。由于没有对应用集群收发消息做特殊的处理,当 A 发出一条聊天信息给B时,发送到 RabbitMQ 中的信息会被在 B 处的消费端所争抢。如果 A 在短时间内发出了几条信息,那么就可能会被集群中的不同应用抢走。

这时候,乱序的问题就出现了。虽然应用业务逻辑是相同的,但是这些集群中的应用依然可能在处理信息速度上出现差异,最终导致用户看到的聊天信息错乱。

连肝两宿,做出这18张图,彻底让你学会“一致性哈希”一_第4张图片

问题找到了,解决办法是什么?

上面我们说过了,消息顺序错乱是因为集群中不同应用抢消息然后处理速度不一样导致的。如果我们能保证 A 和 B 会话,从开始之后到会话结束之前,永远只会被 B 所在的消费消息集群应用中的同一个应用消费,那么我们就能保证消息有序。这样一来,我们就可以在消费消息的那个应用中,对抢到的消息进行排队,然后依次处理。

那么,这种保证怎么实现呢?

首先,我们在 RabbitMQ 中会建立有相同前缀的队列,后面跟着队列编号。然后,集群中的不同应用会分别监听这两个有着不同编号的队列。当在 A 发送信息时,我们会对信息做一次简单的哈希:

m = hash(id) mod n

这里,id 是用户的标识。n 是集群中 B 所在业务系统部署的数量。最终的 m 是我们需要发送到的目的队列编号。

连肝两宿,做出这18张图,彻底让你学会“一致性哈希”一_第5张图片

假设,hash(id) 的结果为 2000,n 为 2,经过计算 m = 0。此时,A 就会把他和 B 的对话信息都发送到 chat00 的队列里。B 收到消息后,就会依次显示给终端用户。这样,聊天乱序的问题就解决了。

那么,事情到此就结束了吗?这个解决方案是完美的吗?

二、看来,我们需要增加应用数量了

随着公司的发展,公司的人数也急剧上升,公司内部的 IM 使用人数也跟着多了起来,新问题又随之出现了。

最主要的问题是,人们收到聊天信息的速度变慢了。原因也很简单,收取聊天信息的集群机器不够用了。解决办法可以简单直接点,再加台机器就好了。

不过,由于收消息的集群中新加入了一台机器,这时候,我们还需要额外多做一些事情:

1.我们需要为新加入的这台机器上的应用额外再多增加一个队列 chat02。

连肝两宿,做出这18张图,彻底让你学会“一致性哈希”一_第6张图片

2.我们还需要修改下我们的分配消息的规则,把原来的 hash(id) mod 2 修改为 hash(id) mod 3。对于新手小白想更轻松的学好Java提升,Java架构,web开发、大数据,数据分析,人工智能等技术,这里给大家分享系统教学资源,加下我尉(同英):1253431195【教程/工具/方法/解疑】

连肝两宿,做出这18张图,彻底让你学会“一致性哈希”一_第7张图片

3.重新启动发送消息的项目,以便修改的规则生效。

4.把收消息的应用部署到新机器上。

连肝两宿,做出这18张图,彻底让你学会“一致性哈希”一_第8张图片

到这时,一切还都在可控范围。开发人员只需要在需要的时候,新增加个队列,然后把我们的分配规则小小的修改下即可。

但是,他们不知道的是,暴风雨就要来了。

你可能感兴趣的:(程序员,哈希算法,rabbitmq,java,架构,分布式)