MySQL 千万数据量深分页优化，拒绝线上故障，java高级开发面试总结
-
同步的形式为增量同步，根据更新时间的机制，比如第一次同步查询 >= 1970-01-01 00:00:00.0
-
记录最大的更新时间进行存储，下次更新同步以此为条件
-
以分页的形式获取数据，当前页数量加一，循环到最后一页
在这里问题也就出现了，MySQL 查询分页 OFFSET 越深入，性能越差，初步估计线上 MCS_PROD 表中记录在 1000w 左右
如果按照每页 10 条，OFFSET 值会拖垮查询性能，进而形成一个 "性能深渊"
同步类代码针对此问题有两种优化方式：
-
采用游标、流式方案进行优化
-
优化深分页性能，文章围绕这个题目展开
一、软硬件说明
MySQL VERSION
mysql> select version();
±----------+
| version() |
±----------+
| 5.7.30 |
±----------+
1 row in set (0.01 sec)
表结构说明
借鉴公司表结构，字段、长度以及名称均已删减
mysql> DESC MCS_PROD;
±----------------------±-------------±-----±----±--------±---------------+
| Field | Type | Null | Key | Default | Extra |
±----------------------±-------------±-----±----±--------±---------------+
| MCS_PROD_ID | int(11) | NO | PRI | NULL | auto_increment |
| MCS_CODE | varchar(100) | YES | | | |
| MCS_NAME | varchar(500) | YES | | | |
| UPDT_TIME | datetime | NO | MUL | NULL | |
±----------------------±-------------±-----±----±--------±---------------+
4 rows in set (0.01 sec)
通过测试同学帮忙造了 500w 左右数据量
mysql> SELECT COUNT(*) FROM MCS_PROD;
±---------+
| count(*) |
±---------+
| 5100000 |
±---------+
1 row in set (1.43 sec)
SQL 语句如下
因为功能需要满足 增量拉取的方式，所以会有数据更新时间的条件查询，以及相关 查询排序（此处有坑）
SELECT
MCS_PROD_ID,
MCS_CODE,
MCS_NAME,
UPDT_TIME
FROM
MCS_PROD
WHERE
UPDT_TIME >= ‘1970-01-01 00:00:00.0’ ORDER BY UPDT_TIME
LIMIT xx, xx
个人整理了一些资料，有需要的朋友可以直接点击领取。
25大Java面试专题（附解析）
从0到1Java学习路线和资料
Java核心知识集
MySQL王者晋级之路
二、重新认识 MySQL 分页
LIMIT 子句可以被用于强制 SELECT 语句返回指定的记录数。LIMIT 接收一个或两个数字参数，参数必须是一个整数常量
如果给定两个参数，第一个参数指定第一个返回记录行的偏移量，第二个参数指定返回记录行的最大数
举个简单的例子，分析下 SQL 查询过程，掌握深分页性能为什么差
mysql> SELECT MCS_PROD_ID,MCS_CODE,MCS_NAME FROM MCS_PROD WHERE (UPDT_TIME >= ‘1970-01-01 00:00:00.0’) ORDER BY UPDT_TIME LIMIT 100000, 1;
±------------±------------------------±-----------------±--------------------+
| MCS_PROD_ID | MCS_CODE | MCS_NAME | UPDT_TIME |
±------------±------------------------±-----------------±--------------------+
| 181789 | XA601709733186213015031 | 尺、桡骨LC-DCP骨板 | 2020-10-19 16:22:19 |
±------------±------------------------±-----------------±--------------------+
1 row in set (3.66 sec)
mysql> EXPLAIN SELECT MCS_PROD_ID,MCS_CODE,MCS_NAME FROM MCS_PROD WHERE (UPDT_TIME >= ‘1970-01-01 00:00:00.0’) ORDER BY UPDT_TIME LIMIT 100000, 1;
±—±------------±---------±-----------±------±--------------±-----------±--------±-----±--------±---------±----------------------+
| id | select_type | table | partitions | type | possible_keys | key | key_len | ref | rows | filtered | Extra |
±—±------------±---------±-----------±------±--------------±-----------±--------±-----±--------±---------±----------------------+
| 1 | SIMPLE | MCS_PROD | NULL | range | MCS_PROD_1 | MCS_PROD_1 | 5 | NULL | 2296653 | 100.00 | Using index condition |
±—±------------±---------±-----------±------±--------------±-----------±--------±-----±--------±---------±----------------------+
1 row in set, 1 warning (0.01 sec)
简单说明下上面 SQL 执行过程：
-
首先查询了表 MCS_PROD，进行过滤 UPDT_TIME 条件，查询出展示列（涉及回表操作）进行排序以及 LIMIT
-
LIMIT 100000, 1 的意思是扫描满足条件的 100001 行，然后扔掉前 100000 行
MySQL 耗费了 大量随机 I/O 在回表查询聚簇索引的数据上，而这 100000 次随机 I/O 查询数据不会出现在结果集中
如果系统并发量稍微高一点，每次查询扫描超过 100000 行，性能肯定堪忧，另外 LIMIT 分页 OFFSET 越深，性能越差（多次强调）
图1 数据仅供参考
三、深分页优化
关于 MySQL 深分页优化常见的大概有以下三种策略：
-
子查询优化
-
延迟关联
-
书签记录
上面三点都能大大地提升查询效率，核心思想就是让 MySQL 尽可能扫描更少的页面，获取需要访问的记录后再根据关联列回原表查询所需要的列
3.1 子查询优化
子查询深分页优化语句如下：
mysql> SELECT MCS_PROD_ID,MCS_CODE,MCS_NAME FROM MCS_PROD WHERE MCS_PROD_ID >= ( SELECT m1.MCS_PROD_ID FROM MCS_PROD m1 WHERE m1.UPDT_TIME >= ‘1970-01-01 00:00:00.0’ ORDER BY m1.UPDT_TIME LIMIT 3000000, 1) LIMIT 1;
±------------±------------------------±-----------------------+
| MCS_PROD_ID | MCS_CODE | MCS_NAME |
±------------±------------------------±-----------------------+
| 3021401 | XA892010009391491861476 | 金属解剖型接骨板T型接骨板A |
±------------±------------------------±-----------------------+
1 row in set (0.76 sec)
mysql> EXPLAIN SELECT MCS_PROD_ID,MCS_CODE,MCS_NAME FROM MCS_PROD WHERE MCS_PROD_ID >= ( SELECT m1.MCS_PROD_ID FROM MCS_PROD m1 WHERE m1.UPDT_TIME >= ‘1970-01-01 00:00:00.0’ ORDER BY m1.UPDT_TIME LIMIT 3000000, 1) LIMIT 1;
±—±------------±---------±-----------±------±--------------±-----------±--------±-----±--------±---------±-------------------------+
| id | select_type | table | partitions | type | possible_keys | key | key_len | ref | rows | filtered | Extra |
±—±------------±---------±-----------±------±--------------±-----------±--------±-----±--------±---------±-------------------------+
| 1 |
【一线大厂Java面试题解析+后端开发学习笔记+最新架构讲解视频+实战项目源码讲义】
浏览器打开：qq.cn.hn/FTf 免费领取
PRIMARY | MCS_PROD | NULL | range | PRIMARY | PRIMARY | 4 | NULL | 2296653 | 100.00 | Using where |
| 2 | SUBQUERY | m1 | NULL | range | MCS_PROD_1 | MCS_PROD_1 | 5 | NULL | 2296653 | 100.00 | Using where; Using index |
±—±------------±---------±-----------±------±--------------±-----------±--------±-----±--------±---------±-------------------------+
2 rows in set, 1 warning (0.77 sec)
复制代码
根据执行计划得知，子查询 table m1 查询是用到了索引。首先在 索引上拿到了聚集索引的主键 ID 省去了回表操作，然后第二查询直接根据第一个查询的 ID 往后再去查 10 个就可以了
图2 数据仅供参考
3.2 延迟关联
“延迟关联” 深分页优化语句如下：
mysql> SELECT MCS_PROD_ID,MCS_CODE,MCS_NAME FROM MCS_PROD INNER JOIN (SELECT m1.MCS_PROD_ID FROM MCS_PROD m1 WHERE m1.UPDT_TIME >= ‘1970-01-01 00:00:00.0’ ORDER BY m1.UPDT_TIME LIMIT 3000000, 1) AS MCS_PROD2 USING(MCS_PROD_ID);
±------------±------------------------±-----------------------+
| MCS_PROD_ID | MCS_CODE | MCS_NAME |
±------------±------------------------±-----------------------+
| 3021401 | XA892010009391491861476 | 金属解剖型接骨板T型接骨板A |
±------------±------------------------±-----------------------+
1 row in set (0.75 sec)
mysql> EXPLAIN SELECT MCS_PROD_ID,MCS_CODE,MCS_NAME FROM MCS_PROD INNER JOIN (SELECT m1.MCS_PROD_ID FROM MCS_PROD m1 WHERE m1.UPDT_TIME >= ‘1970-01-01 00:00:00.0’ ORDER BY m1.UPDT_TIME LIMIT 3000000, 1) AS MCS_PROD2 USING(MCS_PROD_ID);
±—±------------±-----------±-----------±-------±--------------±-----------±--------±----------------------±--------±---------±-------------------------+
| id | select_type | table | partitions | type | possible_keys | key | key_len | ref | rows | filtered | Extra |
±—±------------±-----------±-----------±-------±--------------±-----------±--------±----------------------±--------±---------±-------------------------+
| 1 | PRIMARY | | NULL | ALL | NULL | NULL | NULL | NULL | 2296653 | 100.00 | NULL |
| 1 | PRIMARY | MCS_PROD | NULL | eq_ref | PRIMARY | PRIMARY | 4 | MCS_PROD2.MCS_PROD_ID | 1 | 100.00 | NULL |
| 2 | DERIVED | m1 | NULL | range | MCS_PROD_1 | MCS_PROD_1 | 5 | NULL | 2296653 | 100.00 | Using where; Using index |
±—±------------±-----------±-----------±-------±--------------±-----------±--------±----------------------±--------±---------±-------------------------+
3 rows in set, 1 warning (0.00 sec)
思路以及性能与子查询优化一致，只不过采用了 JOIN 的形式执行
3.3 书签记录
关于 LIMIT 深分页问题，核心在于 OFFSET 值，它会 导致 MySQL 扫描大量不需要的记录行然后抛弃掉
我们可以先使用书签 记录获取上次取数据的位置，下次就可以直接从该位置开始扫描，这样可以 避免使用 OFFEST
假设需要查询 3000000 行数据后的第 1 条记录，查询可以这么写