面试填坑之Mysql无底洞(一、sql优化及索引失效)

MySql优化

1、查询缓存

MySQL Query Cache是用来缓存我们所执行的SELECT语句以及该语句的结果集，MySql在实现Query Cache的具体技术细节上类似典型的KV存储，就是将SELECT语句和该查询语句的结果集做了一个HASH映射并保存在一定的内存区域中。当客户端发起SQL查询时，Query Cache的查找逻辑是，先对SQL进行相应的权限验证，接着就通过Query Cache来查找结果（注意必须是完全相同，即使多一个空格或者大小写不 同都认为不同，即使完全相同的SQL，如果使用不同的字符集、不同的协议等也会被认为是不同的查询而分别进行缓存）。它不需要经过Optimizer模块进行执行计划的分析优化，更不需要发生同任何存储引擎的交互，减少了大量的磁盘IO和CPU运 算，所以有时候效率非常高。
详细介绍请看：https://www.cnblogs.com/Alight/p/3981999.html

需要注意的一点是：

像CURDATE()这样的方法函数在sql执行中都是没有办法执行的，因为MySQL默认这些函数时多变的，建议还是使用变量来代替MySQL的函数

query_cache_type: 查询缓存类型,是否打开缓存

可选项

a、0(OFF)：关闭 Query Cache 功能，任何情况下都不会使用 Query Cache；
b、1(ON)：开启 Query Cache 功能，但是当SELECT语句中使用SQL_NO_CACHE提示后，将不使用Query Cache；
c、2(DEMAND)：开启Query Cache 功能，但是只有当SELECT语句中使用了SQL_CACHE 提示后，才使用Query Cache。

备注1:

如果query_cache_type为on而又不想利用查询缓存中的数据，可以用下面的SQL：

SELECT SQL_NO_CACHE * FROM my_table WHERE condition;

如果值为2，要使用缓存的话，需要使用SQL_CACHE开关参数：

SELECT SQL_CACHE * FROM my_table WHERE condition;

2、EXPLAIN你的select查询

    使用 EXPLAIN 关键字可以让你知道MySQL是如何处理你的SQL语句的。这可以帮你分析你的查询语句或是表结构的性能瓶颈。

EXPLAIN 的查询结果还会告诉你你的索引主键被如何利用的，你的数据表是如何被搜索和排序的……等等，等等。
　　详情请见：
　　https://www.cnblogs.com/butterfly100/archive/2018/01/15/8287569.html

3、当只要一行数据时使用 LIMIT 1

当你查询表的有些时候，你已经知道结果只会有一条结果，但因为你可能
需要去 fetch 游标，或是你也许会去检查返回的记录数。
在这种情况下，加上 LIMIT 1 可以增加性能。这样一样，MySQL 数据库引擎
会在找到一条数据后停止搜索，而不是继续往后查少下一条符合记录的数据

4、 为搜索字段建索引

索引并不一定就是给主键或是唯一的字段。如果在你的表中，有某个字段
你总要会经常用来做搜索，那么，请为其建立索引吧。

从上图你可以看到那个搜索字串 “last_name LIKE ‘a%’”，一个是建了
索引，一个是没有索引，性能差了 4 倍左右。
另外，你应该也需要知道什么样的搜索是不能使用正常的索引的。例如，
当你需要在一篇大的文章中搜索一个词时，如： “WHERE post_content LIKE
‘%apple%’”，索引可能是没有意义的。你可能需要使用 MySQL 全文索引 或
是自己做一个索引(比如说：搜索关键词或是 Tag 什么的)

ps：索引失效的几种场景

1. like 以%开头，索引无效；当like前缀没有%，后缀有%时，索引有效。
2. or语句前后没有同时使用索引。当or左右查询字段只有一个是索引，该索引失效，只有当or左右查询字段均为索引时，才会生效
3. 组合索引，不是使用第一列索引，索引失效。
4. 数据类型出现隐式转化。如varchar不加单引号的话可能会自动转换为int型，使索引无效，产生全表扫描。
5. 在索引列上使用 IS NULL 或 IS NOT NULL操作。索引是不索引空值的，所以这样的操作不能使用索引，可以用其他的办法处理，例如：数字类型，判断大于0，字符串类型设置一个默认值，判断是否等于默认值即可。
6. 在索引字段上使用not，<>，!=。不等于操作符是永远不会用到索引的，因此对它的处理只会产生全表扫描。 优化方法： key<>0 改为 key>0 or key<0。
7. 对索引字段进行计算操作、字段上使用函数。（索引为 emp(ename,empno,sal)）
8. 当全表扫描速度比索引速度快时，mysql会使用全表扫描，此时索引失效。

详情请见：https://www.cnblogs.com/wdss/p/11186411.html

5、几个小点

• 在 Join 表的时候使用相当类型的例，并将其索引List item
• 千万不要 ORDER BY RAND()
• 避免 SELECT *

6、永远为每张表设置一个 ID

我们应该为数据库里的每张表都设置一个 ID 做为其主键，而且最好的是一
个 INT 型的(推荐使用 UNSIGNED)，并设置上自动增加的 AUTO_INCREMENT 标
志。
就算是你 users 表有一个主键叫 “email”的字段，你也别让它成为主
键。使用 VARCHAR 类型来当主键会使用得性能下降。另外，在你的程序中，你
应该使用表的 ID 来构造你的数据结构。
而且，在 MySQL 数据引擎下，还有一些操作需要使用主键，在这些情况
下，主键的性能和设置变得非常重要，比如，集群，分区……
在这里，只有一个情况是例外，那就是“关联表”的“外键”，也就是
说，这个表的主键，通过若干个别的表的主键构成。我们把这个情况叫做“外 键”。比如：有一个“学生表”有学生的 ID，有一个“课程表”有课程 ID，那
么，“成绩表”就是“关联表”了，其关联了学生表和课程表，在成绩表中，
学生 ID 和课程 ID 叫“外键”其共同组成主键

7、使用 ENUM 而不是 VARCHAR

ENUM 类型是非常快和紧凑的。在实际上，其保存的是 TINYINT，但其外表
上显示为字符串。这样一来，用这个字段来做一些选项列表变得相当的完美。
如果你有一个字段，比如“性别”，“国家”，“民族”，“状态”或 “部门”，你知道这些字段的取值是有限而且固定的，那么，你应该使用 ENUM
而不是 VARCHAR。
MySQL 也有一个“建议”(见第十条)告诉你怎么去重新组织你的表结构。
当你有一个 VARCHAR 字段时，这个建议会告诉你把其改成 ENUM 类型。使用
PROCEDURE ANALYSE() 你可以得到相关的建议。

8、从 PROCEDURE ANALYSE() 取得建议

PROCEDURE ANALYSE() 会让 MySQL 帮你去分析你的字段和其实际的数据，并
会给你一些有用的建议。只有表中有实际的数据，这些建议才会变得有用，因
为要做一些大的决定是需要有数据作为基础的。
例如，如果你创建了一个 INT 字段作为你的主键，然而并没有太多的数
据，那么，PROCEDURE ANALYSE()会建议你把这个字段的类型改成 MEDIUMINT 。
或是你使用了一个 VARCHAR 字段，因为数据不多，你可能会得到一个让你把它
改成 ENUM 的建议。这些建议，都是可能因为数据不够多，所以决策做得就不够
准。
在 phpmyadmin 里，你可以在查看表时，点击 “Propose table
structure” 来查看这些建议

一定要注意，这些只是建议，只有当你的表里的数据越来越多时，这些建
议才会变得准确。一定要记住，你才是最终做决定的人。

9、尽可能的使用 NOT NULL

除非你有一个很特别的原因去使用 NULL 值，你应该总是让你的字段保持
NOT NULL。这看起来好像有点争议，请往下看。
首先，问问你自己“Empty”和“NULL”有多大的区别(如果是 INT，那就
是 0 和 NULL)?如果你觉得它们之间没有什么区别，那么你就不要使用 NULL。 (你知道吗?在 Oracle 里，NULL 和 Empty 的字符串是一样的!)
不要以为 NULL 不需要空间，其需要额外的空间，并且，在你进行比较的时
候，你的程序会更复杂。 当然，这里并不是说你就不能使用 NULL 了，现实情
况是很复杂的，依然会有些情况下，你需要使用 NULL 值。

10、 Prepared Statements

Prepared Statements 很像存储过程，是一种运行在后台的 SQL 语句集合，
我们可以从使用 prepared statements 获得很多好处，无论是性能问题还是安
全问题。
Prepared Statements 可以检查一些你绑定好的变量，这样可以保护你的程
序不会受到“SQL 注入式”攻击。当然，你也可以手动地检查你的这些变量，
然而，手动的检查容易出问题，而且很经常会被程序员忘了。当我们使用一些
framework 或是 ORM 的时候，这样的问题会好一些。
在性能方面，当一个相同的查询被使用多次的时候，这会为你带来可观的
性能优势。你可以给这些 Prepared Statements 定义一些参数，而 MySQL 只会
解析一次。
虽然最新版本的 MySQL 在传输 Prepared Statements 是使用二进制形势，
所以这会使得网络传输非常有效率。
当然，也有一些情况下，我们需要避免使用 Prepared Statements，因为其
不支持查询缓存。但据说版本 5.1 后支持了。
详情可参考：
https://www.cnblogs.com/micrari/p/7112781.html

11、无缓冲的查询

正常的情况下，当你在当你在你的脚本中执行一个 SQL 语句的时候，你的
程序会停在那里直到没这个 SQL 语句返回，然后你的程序再往下继续执行。你
可以使用无缓冲查询来改变这个行为。
mysql_unbuffered_query() 发送一个 SQL 语句到 MySQL 而并不像
mysql_query()一样去自动 fethch 和缓存结果。这会相当节约很多可观的内
存，尤其是那些会产生大量结果的查询语句，并且，你不需要等到所有的结果
都返回，只需要第一行数据返回的时候，你就可以开始马上开始工作于查询结
果了。
然而，这会有一些限制。因为你要么把所有行都读走，或是你要在进行下
一次的查询前调用 mysql_free_result() 清除结果。而且， mysql_num_rows()
或 mysql_data_seek() 将无法使用。所以，是否使用无缓冲的查询你需要仔细
考虑
看了一下主要是针对PHP的一些操作 java内感觉目前还没有针对这个来进行一个包装 但是还是可以通过设置和sql语句来进行一个无缓存查询

12、 把 IP 地址存成 UNSIGNED INT

很多程序员都会创建一个 VARCHAR(15) 字段来存放字符串形式的 IP 而不是
整形的 IP。如果你用整形来存放，只需要 4 个字节，并且你可以有定长的字
段。而且，这会为你带来查询上的优势，尤其是当你需要使用这样的 WHERE 条
件：IP between ip1 and ip2。
我们必需要使用 UNSIGNED INT，因为 IP 地址会使用整个 32 位的无符号整
形。
而你的查询，你可以使用 INET_ATON() 来把一个字符串 IP 转成一个整形，
并使用 INET_NTOA() 把一个整形转成一个字符串 IP。

13、固定长度的表会更快

如果表中的所有字段都是“固定长度”的，整个表会被认为是 “static”
或 “fixed-length”。 例如，表中没有如下类型的字段： VARCHAR，TEXT，
BLOB。只要你包括了其中一个这些字段，那么这个表就不是“固定长度静态
表”了，这样，MySQL 引擎会用另一种方法来处理。
固定长度的表会提高性能，因为 MySQL 搜寻得会更快一些，因为这些固定
的长度是很容易计算下一个数据的偏移量的，所以读取的自然也会很快。而如
果字段不是定长的，那么，每一次要找下一条的话，需要程序找到主键。
并且，固定长度的表也更容易被缓存和重建。不过，唯一的副作用是，固
定长度的字段会浪费一些空间，因为定长的字段无论你用不用，他都是要分配
那么多的空间。
使用“垂直分割”技术(见下一条)，你可以分割你的表成为两个一个是定
长的，一个则是不定长的

14、垂直分割

“垂直分割”是一种把数据库中的表按列变成几张表的方法，这样可以降
低表的复杂度和字段的数目，从而达到优化的目的。(以前，在银行做过项目，
见过一张表有 100 多个字段，很恐怖)
示例一：在 Users 表中有一个字段是家庭地址，这个字段是可选字段，相
比起，而且你在数据库操作的时候除了个人信息外，你并不需要经常读取或是
改写这个字段。那么，为什么不把他放到另外一张表中呢? 这样会让你的表有
更好的性能，大家想想是不是，大量的时候，我对于用户表来说，只有用户
ID，用户名，口令，用户角色等会被经常使用。小一点的表总是会有好的性
能。
示例二： 你有一个叫 “last_login” 的字段，它会在每次用户登录时被
更新。但是，每次更新时会导致该表的查询缓存被清空。所以，你可以把这个
字段放到另一个表中，这样就不会影响你对用户 ID，用户名，用户角色的不停
地读取了，因为查询缓存会帮你增加很多性能。
另外，你需要注意的是，这些被分出去的字段所形成的表，你不会经常性
地去 Join 他们，不然的话，这样的性能会比不分割时还要差，而且，会是极数
级的下降

15、拆分大的 DELETE 或 INSERT 语句

如果你需要在一个在线的网站上去执行一个大的 DELETE 或 INSERT 查询，
你需要非常小心，要避免你的操作让你的整个网站停止相应。因为这两个操作
是会锁表的，表一锁住了，别的操作都进不来了。
Apache 会有很多的子进程或线程。所以，其工作起来相当有效率，而我们
的服务器也不希望有太多的子进程，线程和数据库链接，这是极大的占服务器
资源的事情，尤其是内存。
如果你把你的表锁上一段时间，比如 30 秒钟，那么对于一个有很高访问量
的站点来说，这 30 秒所积累的访问进程/线程，数据库链接，打开的文件数，
可能不仅仅会让你泊 WEB 服务 Crash，还可能会让你的整台服务器马上掛了。

16、越小的列会越快

对于大多数的数据库引擎来说，硬盘操作可能是最重大的瓶颈。所以，把
你的数据变得紧凑会对这种情况非常有帮助，因为这减少了对硬盘的访问。
参看 MySQL 的文档 Storage Requirements 查看所有的数据类型。
如果一个表只会有几列罢了(比如说字典表，配置表)，那么，我们就没有
理由使用 INT 来做主键，使用 MEDIUMINT, SMALLINT 或是更小的 TINYINT 会更
经济一些。如果你不需要记录时间，使用 DATE 要比 DATETIME 好得多。
当然，你也需要留够足够的扩展空间，不然，你日后来干这个事，你会死
的很难看，参看 Slashdot 的例子(2009 年 11 月 06 日)，一个简单的 ALTER
TABLE 语句花了 3 个多小时，因为里面有一千六百万条数据。

17、选择正确的存储引擎

在 MySQL 中有两个存储引擎 MyISAM 和 InnoDB，每个引擎都有利有弊。酷
壳以前文章《MySQL: InnoDB 还是 MyISAM?》讨论和这个事情。
MyISAM 适合于一些需要大量查询的应用，但其对于有大量写操作并不是很
好。甚至你只是需要 update 一个字段，整个表都会被锁起来，而别的进程，就
算是读进程都无法操作直到读操作完成。另外，MyISAM 对于 SELECT COUNT(*)
这类的计算是超快无比的。
InnoDB 的趋势会是一个非常复杂的存储引擎，对于一些小的应用，它会比
MyISAM 还慢。他是它支持“行锁” ，于是在写操作比较多的时候，会更优秀。
并且，他还支持更多的高级应用，比如：事务。
下面是 MySQL 的手册
target=”_blank”MyISAM Storage Engine
InnoDB Storage Engine

笔记：
这两种存储引擎从字面的分析上来看就知道 非常适合读写分离的分布式数据库设计

18、使用一个对象关系映射器(Object Relational Mapper)

使用 ORM (Object Relational Mapper)，你能够获得可靠的性能增涨。一个
ORM 可以做的所有事情，也能被手动的编写出来。但是，这需要一个高级专
家。
ORM 的最重要的是“Lazy Loading”，也就是说，只有在需要的去取值的时
候才会去真正的去做。但你也需要小心这种机制的副作用，因为这很有可能会
因为要去创建很多很多小的查询反而会降低性能。
ORM 还可以把你的 SQL 语句打包成一个事务，这会比单独执行他们快得多
得多。

19、小心“永久链接”

“永久链接”的目的是用来减少重新创建 MySQL 链接的次数。当一个链接
被创建了，它会永远处在连接的状态，就算是数据库操作已经结束了。而且，
自从我们的 Apache 开始重用它的子进程后——也就是说，下一次的 HTTP 请求
会重用 Apache 的子进程，并重用相同的 MySQL 链接。

补充一点：count(1)和count(*)之间的差别

先标一下结论：
count(*)>count(1)>count(id)>count(字段)

说实话看到这个结论的时候有点吓到我了 破除了我之前对于count函数的一个理解

https://dev.mysql.com/doc/refman/5.5/en/group-by-functions.html
Mysql 5.5斑斑产品文档原文
关于 count()和count(1) 有这样一段话：
InnoDB handles SELECT COUNT() and SELECT COUNT(1) operations in the same way. There is no performance difference.

就是说在 InnoDB 引擎下，这两个其实没有性能上的差异。

对于 count(主键 id )来说，InnoDB 引擎会遍历整张表，把每一行的 id 值都取出来，返回给 server 层。server 层拿到 id 后，判断是不可能为空的，就按行累加。对于 count(1) 来说，InnoDB 引擎遍历整张表，但不取值。server 层对于返回的每一行，放一个数字“1” 进去，判断是不可能为空的，按行累加。单看这两个用法的差别的话，你能对比出来，count(1) 执行得要比 count(主键 id)快。因为从引擎 返回 id 会涉及到解析数据行，以及拷贝字段值的操作。对于 count(字段)来说：如果这个“字段”是定义为 not null 的话，一行行地从记录里面读出这个字段，判断不能为 null，按行累加；如果这个“字段”定义允许为 null，那么执行的时候，判断到有可能是 null，还要把值取出来再 判断一下，不是 null 才累加。而对于 count(*) 来说，并不会把全部字段取出来，而是专门做了优化，不取值，按行累加。所以排序效率：

https://blog.csdn.net/weixin_33766805/article/details/92543624
这一片道理说明的比较详细 引用了产品文档
https://www.cnblogs.com/welearn/p/11357470.html
对count的解读相对完整一些
https://blog.csdn.net/yuan_ren_sheng/article/details/81105306
直接执行相关sql语句进行性能的对比 对比结论count(*)是要由于count(1)的

从性能上来看是这样的，但是实际场景中count(字段)是可以去除一些为null的值的 以此保证一些场景下 不需要统计为null的这些数据 当然性能上就要落后一些了

学习自：
https://www.iteye.com/blog/mygirl1314520-829377