Redis---第十章 集群

Redis Cluster 是 Redis 的分布式解决方案，在 3.0 版本正式推出，有效地解决了Redis 分布式方面的需求。当遇到单机内存、并发、流量等瓶颈时，可以采用Cluster 架构方案达到负载均衡的目的。之前， Redis 分布式方案一般有两种：

 

1. 客户端分区方案，优点是分区逻辑可控，缺点是需要自己处理数据路由、高可用、故障转移等问题。
2. 代理方案，优点是简化客户端分布式逻辑和升级维护便利，缺点是加 重架构部署复杂度和性能损耗。

现在官方为我们提供了专有的集群方案： Redis Cluster ，它非常优雅地解决了Redis 集群方面的问题，因此理解应用好 Redis Cluster 将极大地解放我们使用分布式Redis 的工作量，同时它也是学习分布式存储的绝佳案例。

 

 

10.1 数据分布

 

10.1.1 数据分布理论

 

分布式数据库首先要解决把整个数据集按照分区规则映射到多个节点的问题，即把数据集划分到多个节点上，每个节点负责整体数据的一个子集。如图10-1 所示。

 

需要重点关注的是数据分区规则。常见的分区规则有 哈希分区 和 顺序分区 两种，表10-1 对这两种分区规则进行了对比。

 

 

由于 Redis Cluster 采用哈希分区规则，这里我们重点讨论哈希分区，常见的哈希分区规则有几种，下面分别介绍。

 

《1》节点取余分区

 

使用特定的数据，如 Redis 的键或用户 ID ，再根据节点数量 N 使用公式：hash（ key ） %N 计算出哈希值，用来决定数据映射到哪一个节点上。这种方案存在一个问题：当节点数量变化时，如扩容或收缩节点，数据节点映射关系需要重新计算，会导致数据的重新迁移。

 

这种方式的突出优点是简单性，常用于数据库的分库分表规则，一般采用预分区的方式，提前根据数据量规划好分区数，比如划分为512 或 1024 张表，保证可支撑未来一段时间的数据量，再根据负载情况将表迁移到其他数据库中。扩容时通常采用翻倍扩容，避免数据映射全部被打乱导致全量迁移的情况，如图10-2 所示。

 

《2》一致性哈希分区

 

一致性哈希分区（ Distributed Hash Table ）实现思路是为系统中每个节点分配一个token ，范围一般在 0~2 32 ，这些 token 构成一个哈希环。数据读写执行节点查找操作时，先根据key 计算 hash 值，然后顺时针找到第一个大于等于该哈希值的token 节点，如图 10-3 所示。

 

 

这种方式相比节点取余最大的好处在于加入和删除节点只影响哈希环中相邻的节点，对其他节点无影响。但一致性哈希分区存在几个问题：

 

• 加减节点会造成哈希环中部分数据无法命中，需要手动处理或者忽略这部分数据，因此一致性哈希常用于缓存场景。
• 当使用少量节点时，节点变化将大范围影响哈希环中数据映射，因此这种方式不适合少量数据节点的分布式方案
• 普通的一致性哈希分区在增减节点时需要增加一倍或减去一半节点才能保证数据和负载的均衡。

 

《3》 虚拟槽分区

虚拟槽分区巧妙地使用了哈希空间，使用分散度良好的哈希函数把所有数据映射到一个固定范围的整数集合中，整数定义为槽（slot ）。这个范围一般远远大于节点数，比如Redis Cluster 槽范围是 0~16383 。槽是集群内数据管理和迁移的基本单位。采用大范围槽的主要目的是为了方便数据拆分和集群扩展。每个节点会负责一定数量的槽，如图10-4 所示。

 

10.1.2 Redis数据分区

Redis Cluser 采用虚拟槽分区，所有的键根据哈希函数映射到 0~16383 整数槽内，计算公式：slot=CRC16 （ key ） &16383 。每一个节点负责维护一部分槽以及槽所映射的键值数据，如图10-5 所示。

 

Redis 虚拟槽分区的特点：

• 解耦数据和节点之间的关系，简化了节点扩容和收缩难度。
• 节点自身维护槽的映射关系，不需要客户端或者代理服务维护槽分区元数据。
• 支持节点、槽、键之间的映射查询，用于数据路由、在线伸缩等场景。

数据分区是分布式存储的核心，理解和灵活运用数据分区规则对于掌握Redis Cluster非常有帮助。

 

10.1.3 集群功能限制

Redis 集群相对单机在功能上存在一些限制，需要开发人员提前了解，在使用时做好规避。限制如下：

 

1. key批量操作支持有限。如mset、mget，目前只支持具有相同slot值的key执行批量操作。对于映射为不同slot值的key由于执行mget、mget等操作可能存在于多个节点上因此不被支持。
2. key事务操作支持有限。同理只支持多key在同一节点上的事务操作，当多个key分布在不同的节点上时无法使用事务功能。
3. key作为数据分区的最小粒度，因此不能将一个大的键值对象如hash、list等映射到不同的节点。
4. 不支持多数据库空间。单机下的Redis可以支持16个数据库，集群模式下只能使用一个数据库空间，即db0。
5. 复制结构只支持一层，从节点只能复制主节点，不支持嵌套树状复制结构。

 

10.3.1 通信流程

 

在分布式存储中需要提供维护节点元数据信息的机制，所谓元数据是指：节点负责哪些数据，是否出现故障等状态信息。常见的元数据维护方式分为：集中式和P2P 方式。 Redis 集群采用 P2P 的 Gossip （流言）协议，Gossip协议工作原理就是节点彼此不断通信交换信息，一段时间后所有的节点都会知道集群完整的信息，这种方式类似流言传播，如图10-12 所示。

 

 

通信过程说明：

 

1. 集群中的每个节点都会单独开辟一个 TCP 通道，用于节点之间彼此通信，通信端口号在基础端口上加10000 。
2. 每个节点在固定周期内通过特定规则选择几个节点发送 ping 消息。
3. 接收到 ping 消息的节点用 pong 消息作为响应。