Redis Hotkey？3招定位+5招解决
作者总结分享 Redis Hotkey 定位和解决方法的优缺点。
作者：贲绍华，爱可生研发中心工程师，负责项目的需求与维护工作。其他身份：柯基铲屎官。
爱可生开源社区出品，原创内容未经授权不得随意使用，转载请联系小编并注明来源。
本文约 800 字，预计阅读需要 2 分钟。
什么是 Hotkey，会有什么问题？
1.1 什么是 Hotkey?
顾名思义即 Redis 实例中的热点数据，当客户端频繁访地查询、读取、写入同一个 key 时，它被称之为 Hotkey。
1.2 会有什么问题？
1.2.1 网络问题
单机的资源是有限的，Hotkey 无法充分利用集群分担流量时，会导致各实例间资源无法充分合理应用。
Hotkey 所属实例的网卡也会持续高负载的状态，可能会出现相应延迟的问题。
1.2.2 缓存穿透
当 Hotkey 失效或所在节点实例状态异常时，流量请求会直接打到数据库上。
1.2.3 主从同步延迟
在 Redis 中，主从同步是异步进行操作的，但如果单节点 Hotkey 持续占用过高的带宽资源，则可能会造成主从延迟或中断。
如何发现 Hotkey？
2.1 客户端统计
这里的客户端可以是具体的业务端，也可以是 proxy 层，根据 key 的调用情况进行统计与分析。
优点
- 实现成本相对较低。
- 可以根据统计情况灵活调整客户端的统计指标与算法，灵活配置客户端缓存。
缺点
- 对业务开发的侵入性：需要预先埋点，添加相关逻辑和代码。这涉及到对业务开发的改动和调整，可能增加开发复杂性和维护成本。
- 监测存在延迟：多个客户端统计时汇总分析比较繁琐，上报与分析的过程往往并不是实时的，存在一定的延迟。
2.2 Monitor 监控
Redis 提供了 Monitor 监控命令，使用 Monitor 命令可以实时监控 Redis 数据库的所有命令操作，包括对 Hotkey 的读取和写入操作，通过对返回的执行命令进行统计来分析 Hotkey 的分布。
方案推荐
Facebook 开源的 redis-faina(Python)，提供了对 Monitor 的一些分析与定位。
优点
- 可以清楚的知道 key 的操作行为（写入还是读取）。
- 准确定位客户端来源。
缺点
- Monitor 命令本身会影响 Redis 的性能，特别是在高负载环境中。它会占用部分 Redis 服务器的 CPU 资源和网络带宽，在 Redis 官方文档 中描述如下，运行单个 Monitor 客户端可能会使吞吐量减少50%以上：
In this particular case, running a single
MONITOR client can reduce the throughput by more than 50%. Running more
MONITOR clients will reduce throughput even more2.3 Hotkeys
从 Redis 4.0.3 版本开始，Redis 引入了 hotkeys 的命令来帮助定位 Hotkey。该命令可用于识别在 Redis 数据库中访问频率最高的键。
对性能要求不是太高的业务场景下，建议使用该进行 Hotkey 的定位与分析。使用前需要先配置 Redis 的内存淘汰策略。
优点
- 易用性：内置命令直接调用即可。
- 实时性：该命令提供的信息是实时的，能够及时反映当前的热点键。
缺点
- 性能影响：由于它是一个全量的Hotkey数据，特别是存在大量hotkey的场景下会对性能产生较大影响，因此不推荐在生产环境频繁执行；
- 局限性：该命令返回的结果是基于Redis自身内部的采样与统计算法，根据机器资源的或预期场景的不同，该结果可能并不是100%符合预期的；
- 完整性：该命令只提供了热点键的基本信息，无法知道更详细的统计和分析信息，需要向业务侧确认；
2.4 TCP 抓包
使用这种方式可以做到对业务端无侵入性、对 Redis 实例本身性能无影响。
方案推荐
ELK 提供了一个名为 packetbeat 的抓包插件，可以对 Redis 的 TCP 报文进行抓包与分析。但往往需要搭配 ELK 一起使用，单独使用 packetbeat 插件的话也需要额外做一些定制化变更。
优点
- 实时性：可以实时捕获 Redis 客户端与 Redis 服务器之间的网络通信，包括请求和响应数据，以获取最新的 Hotkey 信息。
- 适用范围更广：适用于任何 Redis 实例，不论是单机还是分布式部署，无论是云上还是本地。只要网络流量可以访问，就可以使用 TCP 抓包进行分析。
- 独立性：这种方式是独立于业务侧与 Redis 实例之外的，无需业务埋点、无需更改或配置 Redis，同时也避免对 Redis 实例所在的机器性能造成额外的负担。
缺点
- 复杂度过高：无论是基于自行实现还是 packetbeat，都需要进行一定的定制化调整，使用成本相对较高。
- 稳定性：当网络环境不稳定时，该方式可能存在一定误差。
- 隐私与安全：TCP 报文包含了完整都的请求和响应数据可能会涉及到敏感信息的泄露（如密码、敏感数据等）。
如何解决？
3.1 Redis cluster 数据分片
将数据按照一定的规则进行分片存储，使不同的键分散在不同的 Redis 实例或分片中。这样可以减少单个实例的负载，提高整体性能。
可以使用 Redis Cluster 来实现分片，或者结合应用程序的逻辑进行手动分片。但该方式可能并不适用单个或少量 key 为 Hotkey 的场景。
3.2 多级缓存
通过第二小节的方式定位到 Hotkey 后，可以对 Hotkey 灵活调整缓存策略，比如客户端本地+分布式缓存、全局缓存+局部缓存等。
3.3 监控优化
对Redis实例所在机器完善监控与告警，多维度分析 Hotkey 场景下机器的 QPS、内存、网络等资源的使用情况。
当达到策略阈值时，可以配合自动化运维增加一些如：扩容、调整缓存配置、slot迁移等策略。
3.4 根据业务拆分子 key
该方式适用于 key 的数量较少且可以对 key 或 value 自身进行拆分的情况，令 Hotkey 尽量分散的落到不同的实例上。
3.5 缓存策略与 TTL 优化
合理配置 TTL，并使用适当的缓存策略，如 LRU（Least Recently Used）或 LFU（Least Frequently Used），以便自动淘汰冷数据并保留热点数据。
避免 Hotkey 过期导致频繁的缓存击穿的情况。
更多技术文章，请访问：https://opensource.actionsky.com/
关于 SQLE
SQLE 是一款全方位的 SQL 质量管理平台，覆盖开发至生产环境的 SQL 审核和管理。支持主流的开源、商业、国产数据库，为开发和运维提供流程自动化能力，提升上线效率，提高数据质量。
SQLE 获取
| 类型 | 地址 |
|---|---|
| 版本库 | https://github.com/actiontech/sqle |
| 文档 | https://actiontech.github.io/sqle-docs/ |
| 发布信息 | https://github.com/actiontech/sqle/releases |
| 数据审核插件开发文档 | https://actiontech.github.io/sqle-docs/docs/dev-manual/plugins/howtouse |