【MySql】MySql索引的作用&&索引的理解

【MySql】MySql索引的作用&&索引的理解

索引的作用

索引是与效率挂钩的，所以没有索引，可能会存在问题
索引：提高数据库的性能，索引是物美价廉的东西了。不用加内存，不用改程序，不用调sql，只要执行正确的 create index ，查询速度就可能提高成百上千倍。但是天下没有免费的午餐，查询速度的提高是以插入、更新、删除的速度为代价的，这些写操作，增加了大量的IO。所以它的价值，在于提高一个海量数据的检索速度。

MySQL的服务器，本质是在内存中的，所有的数据库的CURD操作，全部都是在内存中进行的！所以索引也是如此

提高算法效率的因素：1.组织数据的方式2.算法本身。

常见的索引分为以下几种

主键索引(primary key)
唯一索引(unique)
普通索引(index)
全文索引(fulltext)–解决中子文索引问题

• 创建一个海量表，在查询的时候，没有索引时看一下会有什么问题

• 查询员工编号为998877的员工

select * from EMP where empno=998877;

可以看到耗时17.71秒，这还是在本机一个人来操作，在实际项目中，如果放在公网中，假如同时有1000个人并发查询，那很可能就死机，这是非常可怕的事情。

• 解决方法，创建索引

alter table EMP add index(empno);

• 测试看查询时间

时间变得非常快！这就是索引带来的好处！

想认识索引之前，我们非常有必要先了解一下磁盘。

认识磁盘

• mysql与存储

MySQL 给用户提供存储服务，而存储的都是数据，数据在磁盘这个外设当中。磁盘是计算机中的一个机械设备，相比于计算机其他电子元件，磁盘效率是比较低的，在加上IO本身的特征，可以知道，如何提交效率，是 MySQL 的一个重要话题。

• 磁盘中一个盘片

数据库文件，本质其实就是保存在磁盘的盘片当中。也就是上面的一个个小格子中，就是我们经常所说的扇区。当然，数据库文件很大，也很多，一定需要占据多个扇区

我们在使用Linux，所看到的大部分目录或者文件，其实就是保存在硬盘当中的。(当然，有一些内存文件系统，如： proc ， sys 之类，我们不考虑)

所以，最基本的，找到一个文件的全部，本质，就是在磁盘找到所有保存文件的扇区。而我们能够定位任何一个扇区，那么便能找到所有扇区，因为查找方式是一样的

• 定位扇区

柱面(磁道): 多盘磁盘，每盘都是双面，大小完全相等。那么同半径的磁道，整体上便构成了一个柱面

每个盘面都有一个磁头，那么磁头和盘面的对应关系便是1对1的

所以，我们只需要知道，磁头（Heads）、柱面(Cylinder)(等价于磁道)、扇区(Sector)对应的编号。即可在磁盘上定位所要访问的扇区。这种磁盘数据定位方式叫做 CHS 。不过实际系统软件使用的并不是 CHS （但是硬件是），而是 LBA ，一种线性地址，可以想象成虚拟地址与物理地址。系统将 LBA 地址最后会转化成为 CHS ，交给磁盘去进行数据读取。不过，我们现在不关心转化细节。

• 结论

我们现在已经能够在硬件层面定位，任何一个基本数据块了(扇区)。但是在系统软件上，就不是直接按照扇区(512字节，部分4096字节),进行IO交互了，这是因为如果操作系统直接使用硬件提供的数据大小进行交互，那么系统的IO代码，就和硬件强相关，换言之，如果硬件发生变化，系统必须跟着变化；另外目前来看，单次IO 512字节，还是太小了。IO单位小，意味着读取同样的数据内容，需要进行多次磁盘访问，会带来效率的降低；

文件系统读取基本单位，就不是扇区，而是数据块。既系统读取磁盘，是以块为单位的，基本单位是 4KB

• 磁盘随机访问(Random Access)与连续访问(Sequential Access)

随机访问：本次IO所给出的扇区地址和上次IO给出扇区地址不连续，这样的话磁头在两次IO操作之间需要作比较大的移动动作才能重新开始读/写数据。
连续访问：如果当次IO给出的扇区地址与上次IO结束的扇区地址是连续的，那磁头就能很快的开始这次IO操作，这样的多个IO操作称为连续访问。
因此尽管相邻的两次IO操作在同一时刻发出，但如果它们的请求的扇区地址相差很大的话也只能称为随机访问，而非连续访问。
磁盘是通过机械运动进行寻址的，随机访问不需要过多的定位，故效率比较高

MySql 与磁盘交互基本单位Page

MySql 作为一款应用软件，可以想象成一种特殊的文件系统。它有着更高的IO场景，所以，为了提高基本的IO效率， MySql 进行IO的基本单位是16KB:MySql是应用层服务，是不可能直接访问硬件的，这个16KB是站在MySql角度向OS提出来的，OS内部存在文件缓冲区的,MySql进入到某一个目录，对某张表做CURD，对某张表内部做增删查改，在MySql就得到了文件的fd,一个文件被打开有自己的结构体，缓冲区；MySql以16KB为单位与文件缓冲区进行IO。

show global status like 'innodb_page_size';
-- 16382/1024=16KB

也就是说，磁盘这个硬件设备的基本单位是 512 字节，而 MySQL InnoDB引擎 使用 16KB 进行IO交互。即， MySQL 和磁盘进行数据交互的基本单位是 16KB 。这个基本数据单元，在 MySQL 这里叫做page（注意和系统的page区分）

共识

MySQL 中的数据文件，是以page为单位保存在磁盘当中的。

MySQL 的 CURD 操作，都需要通过计算，找到对应的插入位置，或者找到对应要修改或者查询的数据

只要涉及计算，就需要CPU参与，而为了便于CPU参与，一定要能够先将数据移动到内存当中

所以在特定时间内，数据一定是磁盘中有，内存中也有。后续操作完内存数据之后，以特定的刷新策略，刷新到磁盘。而这时，就涉及到磁盘和内存的数据交互，也就是IO。此时IO的基本单位就是Page。

为了更好的进行上面的操作， MySQL 服务器在内存中运行的时候，在服务器内部，就申请了被称为 Buffer Pool 的的大内存空间，来进行各种缓存。其实就是很大的内存空间，来和磁盘数据进行IO交互

为了更高的效率，一定要尽可能的减少系统和磁盘IO的次数

索引的理解

创建一张表：

create table if not exists user (
id int primary key, 
age int not null,
name varchar(16) not null
);

现在往表里插入5条数据，结果如下：插入的数据是无序的，但是查看结果却是有序的！

mysql> insert into user (id, age, name) values(3, 18, '杨过');
Query OK, 1 row affected (0.00 sec)

mysql> insert into user (id, age, name) values(4, 16, '小龙女');
Query OK, 1 row affected (0.04 sec)

mysql> insert into user (id, age, name) values(2, 26, '黄蓉');
Query OK, 1 row affected (0.03 sec)

mysql> insert into user (id, age, name) values(5, 36, '郭靖');
Query OK, 1 row affected (0.02 sec)

mysql> insert into user (id, age, name) values(1, 56, '欧阳锋');
Query OK, 1 row affected (0.03 sec)

主键有序问题

• 我们向一个具有主键的表中，乱序插入数据，发现数据会自动排序，这是谁做的，为什么要这样做？

对于这个问题的回答，我们来看一看。

首先磁盘上有对应的文件数据，文件数据最终会被预读到文件缓冲区，mysql启动的时候会申请buffer pool,mysql层面上，所有的page都会被放到buffer pool中，理解mysql中page的概念：一个page是16KB，mysql内部一定需要并且会存在大量的page,也就决定了mysql必须要将多个同时存在的page管理起来。要管理所有的mysql内的page,需要先描述，在组织，所以不要简单将page认为是一个内存块，page内部也必须写入对应的管理信息！如：

struct page
{
struct page*next;
struct page*prev;
char buffer[NUM];
};-- 16KB,

所谓的申请，在mysql申请的page就是new page,在用简单的方式：比如将所有的page用链表的形式管理起来。在buffer pool内部，对mysql中的page进行了一个建模。

了解一下：MySQL和磁盘进行IO交互的时候，采用Page的方案进行交互

为什么MySQL和磁盘进行IO交互的时候，要采用Page的方案进行交互?用多少，加载多少不可以吗?
如上面的5条记录，如果MySQL要查找id=2的记录，第一次加载id=1，第二次加载id=2，一次一条记录，那么就需要2次IO。如果要找id=5，那么就需要5次IO。但，如果这5条(或者更多)都被保存在一个Page中(16KB，能保存很多记录),那么第一次IO查找id=2的时候，整个Page会被加载到MySQL的Buffer Pool中，这里完成了一次IO。但是往后如果在查找id=1,3,4,5等，完全不需要进行IO了，而是直接在内存中进行了。所以，就在单Page里面，大大减少了IO的次数。

怎么保证，用户一定下次找的数据，就在这个Page里面？我们不能严格保证，但是有很大概率，因为有局部性原理。往往IO效率低下的最主要矛盾不是IO单次数据量的大小，而是IO的次数

理解单个Page

MySQL 中要管理很多数据表文件，而要管理好这些文件，就需要先描述，在组织 ,我们目前可以简单理解成一个个独立文件是有一个或者多个Page构成的，这在我们一开始也有说到

对于不同的 Page ，在 MySQL 中，都是 16KB ，使用 prev 和 next 构成双向链表因为有主键的问题， MySQL 会默认按照主键给我们的数据进行排序，从上面的Page内数据记录可以看出，数据是有序且彼此关联的。

**插入数据时排序的目的，就是优化查询的效率。**页内部存放数据的模块，实质上也是一个链表的结构，链表的特点也就是增删快，查询修改慢，所以优化查询的效率是必须的。正式因为有序，在查找的时候，从头到后都是有效查找，没有任何一个查找是浪费的，而且，如果运气好，是可以提前结束查找过程的。

理解多个Page

上面页模式中，只有一个功能，就是在查询某条数据的时候直接将一整页的数据加载到内存中，以减少硬盘IO次数，从而提高性能。但是，我们也可以看到，现在的页模式内部，实际上是采用了链表的结构，前一条数据指向后一条数据，本质上还是通过数据的逐条比较来取出特定的数据；如果有1千万条数据，一定需要多个Page来保存1千万条数据，多个Page彼此使用双链表链接起来，而且每个Page内部的数据也是基于链表的。那么，查找特定一条记录，也一定是线性查找。效率也太低了。

所以要提高效率，我们要有两个角度进行考量：第一个角度是在单page的时候如何提高一个Page内部的链式遍历的效率；另一个是多Page的时候怎么解决Page间进行查找的效率。所以我们有了页目录的出现。

页目录

比如我们在看《软件工程导论》这本书的时候，如果我们要看软件生命周期这个章节，找到该章节有两种做法
从头逐页的向后翻，直到找到目标内容；通过书提供的目录，发现软件生命周期章节在11页(假设)，那么我们便直接翻到11页。同时，查找目录的方案，可以顺序找，不过因为目录的页数肯定少，所以可以快速提高定位
本质上，书中的目录，是多花了纸张的，但是却提高了效率；所以，目录，是一种“空间换时间的做法”

单页情况

对于上面的单页Page，我们也可以引入目录

在一个Page内部，我们引入了目录。比如，我们要查找id=4记录，之前必须线性遍历4次，才能拿到结果。现在直接通过目录2[3]，直接进行定位新的起始位置，提高了效率。

所以对于一开始的问题，我们可以正式回答了：主键插入无序的，但是结果是有序的，很简单，只有把数据变成有序的，能够方便我们引入页内目录！

多页情况

MySQL 中每一页的大小只有 16KB ，单个Page大小固定，所以随着数据量不断增大， 16KB 不可能存下所有的数据，那么必定会有多个页来存储数据。

在单表数据不断被插入的情况下， MySQL 会在容量不足的时候，自动开辟新的Page来保存新的数据，然后通过指针的方式，将所有的Page组织起来 对于上面的图，是理想结构，要保证整体有序，那么新插入的数据，不一定会在新Page上面，这里仅仅做演示。这样，我们就可以通过多个Page遍历，Page内部通过目录来快速定位数据。可是，这样也有效率问题，在Page之间，也是需要 MySQL 遍历的，遍历意味着依旧需要进行大量的IO，将下一个Page加载到内存，进行线性检测。这样就显得我们之前的Page内部的目录，作用没那么大了。

所以，我们给Page也带上目录。

使用一个目录项来指向某一页，而这个目录项存放的就是将要指向的页中存放的最小数据的键值。和页内目录不同的地方在于，这种目录管理的级别是页，而页内目录管理的级别是行。其中，每个目录项的构成是：键值+指针。

存在一个目录页来管理页目录，目录页中的数据存放的就是指向的那一页中最小的数据。有数据，就可通过比较，找到该访问那个Page，进而通过指针，找到下一个Page。其实目录页的本质也是页，普通页中存的数据是用户数据，而目录页中存的数据是普通页的地址。但是我们每次检索数据的时候，应该从哪里开始，虽然顶层的目录页少了，但是还需要遍历，不用担心，可以在加目录页，哈哈，你没想错！

这就是传说中的B+树！把整个的B+树称作mysql innode db下的索引结构，一般我们建表的时候，就是在该结构下进行CURD，即使没有主键也是这样子的，会有默认主键的至此，我们已经给我们的表user构建完了主键索引。随便找一个id=？我们发现，现在查找的Page数一定减少了，也就意味着IO次数减少了，那么效率也就提高了。

1.叶子节点保存有数据，路上节点没有，非叶子节点，不要数据，只要目录项

非叶子节点不存数据，可以存储更多的目录项，目录页可以管理更多的叶子page,这棵树一定是一个矮胖型的树。这也意味着途径的路上节点减少。这也意味着找到目标数据只需要更少的page,也就是IO次数更少，在IO层面，提高了效率！

每一个节点，都有目录项，可以大大提高搜索效率。

2.叶子节点全部用链表级联起来

这是b+树的特点；我们比较希望进行范围查找