mysql优化二：Explain详解和索引优化

Explain详解和索引优化

Explain详解

简介

使用EXPLAIN关键字可以模拟优化器执行SQL语句，分析你的查询语句或是结构的性能瓶颈 在 select 语句之前增加 explain 关键字，MySQL 会在查询上设置一个标记，执行查询会返回执行计划的信息，而不是 执行这条SQL。
注意：如果 from 中包含子查询，仍会执行该子查询，将结果放入临时表中。
参考官方文档: https://dev.mysql.com/doc/refman/5.7/en/explain-output.html
EXPLAIN SELECT * FROM actor;

案例所用sql：

CREATE TABLE `actor` (
  `id` int(11) NOT NULL,
  `name` varchar(45) DEFAULT NULL,
  `update_time` datetime DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
INSERT INTO `test`.`actor`(`id`, `name`, `update_time`) VALUES (1, 'a', '2021-10-29 16:22:12');
INSERT INTO `test`.`actor`(`id`, `name`, `update_time`) VALUES (2, 'b', '2021-10-29 16:22:17');
INSERT INTO `test`.`actor`(`id`, `name`, `update_time`) VALUES (3, 'c', '2021-10-29 16:22:20');

CREATE TABLE `film` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(10) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_name` (`name`)
) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8;
INSERT INTO `test`.`film`(`id`, `name`) VALUES (3, 'film0');
INSERT INTO `test`.`film`(`id`, `name`) VALUES (1, 'film1');
INSERT INTO `test`.`film`(`id`, `name`) VALUES (2, 'film2');

#film_actor 是film 和 actor的关联表
CREATE TABLE `film_actor` (
  `id` int(11) NOT NULL,
  `film_id` int(11) NOT NULL,
  `actor_id` int(11) NOT NULL,
  `remark` varchar(255) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_film_actor_id` (`film_id`,`actor_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
INSERT INTO `test`.`film_actor`(`id`, `film_id`, `actor_id`, `remark`) VALUES (1, 1, 1, NULL);
INSERT INTO `test`.`film_actor`(`id`, `film_id`, `actor_id`, `remark`) VALUES (2, 1, 2, NULL);
INSERT INTO `test`.`film_actor`(`id`, `film_id`, `actor_id`, `remark`) VALUES (3, 2, 1, NULL);

Explain 中重要的参数

如上图，接下来将逐列分析
执行：

#关闭mysql5.7新特性对衍生表的合 并优化
set session optimizer_switch='derived_merge=off';

id列
id列的编号是 select 的序列号，有几个 select 就有几个id，并且id的顺序是按 select 出现的顺序增长的。
id列越大执行优先级越高，id相同则从上往下执行，id为NULL最后执行。
explain select (select 1 from actor where id = 1) from (select * from film where id = 1) der;

光从sql上分析，先是执行 select * from film where id = 1 ，在是执行 select 1 from actor where id = 1，最后在执行最外层的select。
所以根据执行完的结果来看，id列 数值越大执行的优先级越高。
select_type列
select_type 表示对应行是简单还是复杂的查询。

1. simple：简单查询。查询不包含子查询和union
2. primary：复杂查询中最外层的 select
3. subquery：包含在 select 中的子查询（不在 from 子句中）
4. derived：包含在 from 子句中的子查询。MySQL会将结果存放在一个临时表中，也称为派生表（derived的英文含 义）
5. union：在 union 中的第二个和随后的 select

primary、subquery、derived如上图
union：

table列
这一列表示 explain 的一行正在访问哪个表。
当 from 子句中有子查询时，table列是 格式，表示当前查询依赖 id=N 的查询，于是先执行 id=N 的查 询。
当有 union 时，UNION RESULT 的 table 列的值为，1和2表示参与 union 的 select 行id。

partitions列
高版本的mysql会有这一列，如果查询是基于分区表的话，会显示查询将访问的分 区。
并不是很重要。

type列
这一列表示关联类型或访问类型，即MySQL决定如何查找表中的行，查找数据行记录的大概范围。 依次从最优到最差分别为：system > const > eq_ref > ref > range > index > ALL 一般来说，得保证查询达到range级别，最好达到ref。
const, system：mysql能对查询的某部分进行优化并将其转化成一个常量。用于 primary key 或 唯一索引的所有列与常数比较时，所以表最多有一个匹配行，读取1次，速度比较快。system是 const的特例，表里只有一条元组匹配时为system。

eq_ref：primary key 或 unique key 索引的所有部分被连接使用 ，最多只会返回一条符合条件的记录。这可能是在 const 之外最好的联接类型了，简单的 select 查询不会出现这种 type。

ref：相比 eq_ref，不使用唯一索引，而是使用普通索引或者唯一性索引的部分前缀，索引要和某个值相比较，可能会 找到多个符合条件的行。
用到普通索引，并且和某个值比较

range：范围扫描通常出现在 in(), between ,> ,<, >= 等操作中。使用一个索引来检索给定范围的行。

index：扫描全索引就能拿到结果，一般是扫描某个二级索引，这种扫描不会从索引树根节点开始快速查找，而是直接 对二级索引的叶子节点遍历和扫描，速度还是比较慢的，这种查询一般为使用覆盖索引，二级索引一般比较小，所以这 种通常比ALL快一些。

二级索引并不是真正的索引，而是索引的概念，也可以称之为辅助索引。主键索引是一级索引，之前mysql优化一中提到的聚集索引，也就是主键索引，也是一级索引。

ALL：即全表扫描，扫描你的聚集索引的所有叶子节点。通常情况下这需要增加索引来进行优化了。

possible_keys列
这一列显示查询可能使用哪些索引来查找。
explain 时可能出现 possible_keys 有值，而 key 显示 NULL 的情况，这种情况是因为表中数据不多，mysql认为索引 对此查询帮助不大，选择了全表查询。

key列
这一列显示mysql实际采用哪个索引来优化对该表的访问。
如果没有使用索引，则该列是 NULL。如果想强制mysql使用或忽视possible_keys列中的索引，在查询中使用 force index、ignore index。

key_len列
这一列显示了mysql在索引里使用的字节数，通过这个值可以算出具体使用了索引中的哪些列。
key_len计算规则如下：

• 字符串，char(n)和varchar(n)，5.0.3以后版本中，n均代表字符数，而不是字节数，如果是utf-8,一个数字或字母占1个字节，一 个汉字占3个字节
  char(n)：如果存汉字长度就是 3n 字节
  varchar(n)：如果存汉字则长度是 3n + 2 字节，加的2字节用来存储字符串长度，因为 varchar是变长字符串
• 数值类型
  tinyint：1字节
  smallint：2字节
  int：4字节
  bigint：8字节
• 时间类型
  date：3字节
  timestamp：4字节
  datetime：8字节
• 如果字段允许为 NULL，需要1字节记录是否为 NULL 索引最大长度是768字节

当字符串过长时，mysql会做一个类似左前缀索引的处理，将前半部分的字符提取出来做索引。

举例来说，看上图，film_actor的联合索引 idx_film_actor_id 由 film_id 和 actor_id 两个int列组成，int是4字节。所以这个联合索引的长度为8。
通过查询结果中的key_len=4可推断出查询使用了索引中的第一个列：film_id列来执行索引查找。
为什么key_len=4就知道是使用了索引中的第一个列：根据最左前缀原则。根据最左前缀原则后面再讲。

ref列
这一列显示了在key列记录的索引中，表查找值所用到的列或常量，常见的有：const（常量），字段名（例：film.id）

rows列
这一列是mysql估计要读取并检测的行数，注意这个不是结果集里的行数。

filtered 列
是一个半分比的值，rows * filtered/100 可以估算出将要和 explain 中前一个表进行连接的行数（前一个表指 explain 中的id值比当前表id值小的 表。
并没有很重要。

Extra列
这一列展示的是额外信息。常见的重要值如下：

1. Using index：使用覆盖索引
   覆盖索引定义：mysql执行计划explain结果里的key有使用索引，如果select后面查询的字段都可以从这个索引的树中 获取，这种情况一般可以说是用到了覆盖索引，extra里一般都有using index；覆盖索引一般针对的是辅助索引，整个 查询结果只通过辅助索引就能拿到结果，不需要通过辅助索引树找到主键，再通过主键去主键索引树里获取其它字段值。
   
   举个例子：film_actor表中有个联合索引 idx_film_actor_id 由 film_id 和 actor_id 组成。此时where条件 film_id = 1 用到了这个联合索引。同时查询的条件只有film_id 。 也就是说查询的字段全都包含在某个联合索引当中，此时就可以说用到了覆盖索引。这是简单的理解方式。
   其原理就是整个查询结果只通过辅助索引就能拿到结果，不需要通过辅助索引树找到主键，再通过主键去主键索引树里获取其它字段值这句话。怎么理解这句话。 mysql优化一 中讲到了b+tree的数据结构。除了主键索引外其他索引树都是非聚集索引。聚集索引的叶子节点存储的数据表对应一行的数据，非聚集索引叶子节点保存的是主键。也就是说正常情况需要通过非聚集索引查找数据的话，会先找到主键，在根据聚集索引找到对应的数据。然而如下图，覆盖索引直接通过联合索引的key值就能找到所有需要的值。
   比如有个name和age的字段组成联合索引。select name ,age from table whre name = ‘Bill’,正好就能知道了name = Bill age = 30，那么就不用在通过主键回表获取数据了。

2. Using where：使用 where 语句来处理结果，并且查询的列未被索引覆盖
   

3. Using index condition：查询的列不完全被索引覆盖，where条件中是一个前导列的范围；
   

4. Using temporary：mysql需要创建一张临时表来处理查询。出现这种情况一般是要进行优化的，首先是想到用索引来优化。

5. Using filesort：将用外部排序而不是索引排序，数据较小时从内存排序，否则需要在磁盘完成排序。这种情况下一 般也是要考虑使用索引来优化的。

6. Select tables optimized away：使用某些聚合函数（比如 max、min）来访问存在索引的某个字段

索引优化

目前只说明常用的优化概念。具体的优化实战后续补充
使用到的sql

CREATE TABLE `employees` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(24) NOT NULL DEFAULT '' COMMENT '姓名',
  `age` int(11) NOT NULL DEFAULT '0' COMMENT '年龄',
  `position` varchar(20) NOT NULL DEFAULT '' COMMENT '职位',
  `hire_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '入职时间',
  PRIMARY KEY (`id`),
  KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE
) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='员工记录表';

INSERT INTO employees(name,age,position,hire_time) VALUES('LiLei',22,'manager',NOW()); 
INSERT INTO employees(name,age,position,hire_time) VALUES('HanMeimei', 23,'dev',NOW()); 
INSERT INTO employees(name,age,position,hire_time) VALUES('Lucy',23,'dev',NOW());

1.索引的使用长度

EXPLAIN SELECT * FROM employees WHERE name= ‘LiLei’;
EXPLAIN SELECT * FROM employees WHERE name= ‘LiLei’ AND age = 22;
EXPLAIN SELECT * FROM employees WHERE name= ‘LiLei’ AND age = 22 AND position =‘manager’;
这三条查询用到的索引分别如下图。



在employees表中，有联合索引idx_name_age_position
根据上面说的key_len的算法，可以计算出三条sql分别用到了哪些索引字段。name是varchar(24),age是int，position是varchar(20)。name的索引长度是3*24+2=74，name_age的长度是3*24+2+4=78，name_age_position的长度是3*24+2+4+3*20+2=140。(由于最左前缀原则不能只使用到age 或者 position)

2.最左前缀原则
当使用到了联合索引，要遵守最左前缀法则。指的是查询从索引的最左前列开始并且不跳过索引中的列。

这里使用到了索引

这里由于跳过了name字段，不遵守最左前缀原则，因此使用不到索引。
最左前缀原则原理:结合 mysql优化一 优化一讲到的b+tree的数据结构。联合索引构成b+tree的key值是索引字段的值。上图的索引树key就是name、age、position。通过name先排序，再到age排序，再到position排序构建成一个索引树。如果跳过了name字段，那么无法保证age和position在这颗索引树中的有序性，因此索引树无法起到作用也就用不到索引了。

3.不在索引列上做任何操作
（计算、函数、（自动or手动）类型转换），会导致索引失效而转向全表扫描

4.存储引擎不能使用索引中范围条件右边的列

之前计算了这个联合索引的长度是140，因此用到了全部长度的联合索引

这里的key_ken的长度只有78，也就是后面的position的索引没用到。
在联合索引中范围后的索引失效。原理参考最左前缀原则的原理。大概就是由于age是一个范围，不是一个定值，无法保证position的顺序性。

5.尽量使用覆盖索引（只访问索引的查询（索引列包含查询列）），减少 select * 语句

6.mysql在使用不等于（！=或者<>），not in ，not exists 的时候无法使用索引会导致全表扫描
< 小于、 > 大于、 <=、>= 这些，mysql内部优化器会根据检索比例、表大小等多个因素整体评估是否使用索引

7.is null,is not null 一般情况下也无法使用索引

8.like以通配符开头（’$abc…’）mysql索引失效会变成全表扫描操作

索引失效

使用索引
也即是说%在左边索引会失效，%不在左边索引不会失效。其原理也是b+tree的有序性问题
解决%在左边索引失效的方案：
使用覆盖索引，查询字段必须是建立覆盖索引字段：

可以看到使用到了索引，因为覆盖索引通过二级索引树就能找到结果，但是type是index，当然也比all要好。
如果不能使用覆盖索引，也可以借助搜索引擎。

9.字符串不加单引号索引失效

EXPLAIN SELECT * FROM employees WHERE name = '1000'; 
EXPLAIN SELECT * FROM employees WHERE name = 1000;

第一条sql索引生效，第二条索引不生效。

10.少用or或in
用它查询时，mysql不一定使用索引，mysql内部优化器会根据检索比例、表大小等多个因素整体评 估是否使用索引，详见范围查询优化**

11.范围查询优化
给年龄添加单值索引：ALTER TABLEemployeesADD INDEXidx_age(age) USING BTREE ;

没走索引原因：mysql内部优化器会根据检索比例、表大小等多个因素整体评估是否使用索引。比如这个例子，可能是 由于单次数据量查询过大导致优化器最终选择不走索引
优化方法:可以将大的范围拆分成多个小范围