技术分享 | 实时慢查询监控系统构建

作者：王春涛

目前是多点Dmall数据库架构师，更早是聚美数据库团队负责人，擅长高并发下数据库架构，运维保障，数据库平台建设。

本文来源：原创投稿

*爱可生开源社区出品，原创内容未经授权不得随意使用，转载请联系小编并注明来源。

慢查询监控是MySQL运维中非常重要的一项，它可以帮助分析线上数据库性能的抖动或者业务查询响应慢等情况。当集群和实例非常多的情况下，慢查询的收集和存储会变得比较困难，而且不太好做到实时的慢查询告警。

常用方案介绍

1、慢日志收集

通常情况下会采用通过定时任务的方式使用 pt-query-digest 将每个实例的慢日志收集写入到 MySQL 数据库。由于是定时任务触发，所以并不是实时的进行收集上报。

2、慢日志统计

通过查询 MySQL 数据库可以根据 host 、port 、user 、指纹、时间范围等条件进行查询统计

3、慢日志告警

从 MySQL 中查询出慢日志然后匹配到对应的 DBA 和研发人员发送告警。但由于 MySQL 中数据是全量存在的只能根据时间范围进行批次查询，告警就无法做到实时。

pt-query-digest 的方法在采集的时候就已经不是实时了，再加上告警任务是按时间范围进行批次查询所以这套架构下的慢查询监控不能做到实时的监控

下面给大家介绍一下多点数据库实时慢查询监控的实现思路。

多点实时慢查询监控整体架构

如上图，我们有一个监听 slowlog 的 agent ，这个 agent 主要是持续的对慢查询 log 文件进行 tail ，将每一个 slowlog 段作为一个 list 的 iterm push 到 redis 。每个 agent 可以监听所在机器的所有 MySQL 实例的慢日志，这样就把分散在各个机器上的日志汇集到了一个 redis 中。然后有一个消费端也就是 slowlog 推送服务，从 redis 中 pop 出组装好的慢日志，根据 pop 出的慢日志解析其中的 host ，port ，dbname 以及 user ，匹配到对应的 dba 或研发，将慢日志实时推送给对应的人员。同时按照 host-port 将慢查询存储为文件。这样就形成了一个流式的处理，再加上 redis 的全内存操作，速度极快，完全可以做到实时。