从上一章节我们了解到InnoDB 的数据页都是由7个部分组成,然后各个数据页之间可以组成一个双向链表 ,而每个数据页中的记录会按照主键值从小到大的顺序组成一个单向链表 ,每个数据页都会为存储在它里边儿的记录生成一个页目录 ,在通过主键查找某条记录的时候可以在页目录中使用二分法快速定位到对应的槽,然后再遍历该槽对应分组中的记录即可快速找到指定的记录。页和记录的关系示意图如下:
不同页之间在物理结构上不一定就相连,只要通过双向链表相关联即可。
首先我们看看在没有设置索引的情况下是怎么查找记录的。方便理解,我们先以搜索条件为对某个列精确匹配的情况,所谓精确匹配,就是搜索条件中用等于 = 连接起的表达式,比如:
SELECT [列名列表] FROM 表名 WHERE 列名 = xxx;
假设目前表中的记录比较少,所有的记录都可以被存放到一个页(16k)中,在查找记录的时候可以根据搜索条件的不同分为两种情况:
(可以理解为某页的目录,页目录中存放的是槽)
,所以我们无法通过二分法快速定位相应的槽 。这种情况下只能从最小记录开始依次遍历单链表中的每条记录,然后对比每条记录是不是符合搜索条件。很显然,这种查找的效率是非常低的。大部分情况下我们表中存放的记录都是非常多的,需要好多的数据页来存储这些记录。在很多页中找记录的话可以分为两个步骤:
1 . 定位到记录所在的页。
2 . 从所在的页内中查找相应的记录。
在没有索引的情况下,不论是根据主键列或者其他列的值进行查找,由于我们并不能快速的定位到记录所在的页,所以只能从第一个页沿着双向链表一直往下找,在每一个页中根据我们刚刚唠叨过的查找方式去查找指定的记录。因为要遍历所有的数据页,所以这种方式显然是超级耗时的,如果一个表数据很多,使用这种方式去查找记录等待的时间可能就相当的久了, 为了解决这个问题,就设计出了索引。
方便测试,先建一个表:
mysql> create table index_demo(c1 int,c2 int,c3 char(1), primary key(c1)) row_format=compact;
Query OK, 0 rows affected (0.13 sec)
新建的 index_demo 表中有2个 INT 类型的列,1个 CHAR(1) 类型的列,而且我们设置了 c1 列为主键,使用 Compact 行格式来实际存储记录的。简化的 index_demo 表的行格式示意图如下,其他字段被省略:
示意图里展示记录的这几个部分说明:
为了方便理解,把记录示意图竖放起来更直观,并省略掉一些无关字段,然后把一些记录放到页里边的示意图就如下:
实际使用中,我们在根据某个搜索条件查找一些记录时为什么要遍历所有的数据页呢?因为各个页中的记录并没有规律,我们并不知道我们的搜索条件匹配哪些页中的记录,所以不得不依次遍历所有的数据页。所以如果我们想快速的定位到需要查找的记录在哪些数据页中该咋办?还记得我们为根据主键值快速定位一条记录在页中的位置而设立的页目录么?我们也可以想办法为快速定位记录所在的数据页而建立一个别的目录,建这个目录必须完成下边这些事儿:下一个数据页中用户记录的主键值必须大于上一个页中用户记录的主键值。(注意是两种目录,数据页目录和页目录,有点绕)
为方便说明,我们做一个假设:假设我们的每个数据页最多能存放3条记录(但是实际上一个数据页一般是16K,可以存放很多记录)。有了这个假设之后我们向 index_demo 表插入3条记录:
mysql> insert into index_demo VALUES(1, 4, 'u'), (3, 9, 'd'), (5, 3, 'y');
Query OK, 3 rows affected (0.02 sec)
Records: 3 Duplicates: 0 Warnings: 0
那么这些记录已经按照主键值的大小串联成一个单向链表了,如图所示:
从图中可以看出来, index_demo 表中的3条记录都被插入到了编号为 10 的数据页中了。此时我们再来插入
一条记录:
mysql> insert into index_demo values(4, 4, 'a');
Query OK, 1 row affected (0.02 sec)
因为页10最多只能放3条记录(假设过的),所以我们需要再分配一个新页:
可以看到新分配的页号是 28,而不是11 ,为什么呢?因为新分配的数据页编号并不一定就是连续的,也就是说我们使用的这些页在存储空间里可能并不相邻。它们只是通过维护着上一个页和下一个页的编号而建立了链表关系。另外,页10中用户记录最大的主键值是5,而页28中有一条记录的主键值是4,因为5>4,所以这就不符合下一个数据页中用户记录的主键值必须大于上一个页中用户记录的主键值的要求,所以在插入主键值为4的记录的时候需要伴随着一次记录移动,也就是把主键值为5的记录移动到 页28中,然后再把主键值为4的记录插入到 页10 中,这个过程的示意图如下:
这个过程表明了在对页中的记录进行增删改操作的过程中,我们需要通过一些诸如记录移动的操作来始终保证这个状态一直成立:下一个数据页中用户记录的主键值必须大于上一个页中用户记录的主键值。这个过程我们也可以称为页分裂 。
因为这些16KB的页在物理存储上可能并不挨着,所以如果想从这么多页中根据主键值快速定位某些记录所在的页,我们需要给它们做个目录,每个页对应一个目录项,每个目录项包括下边两个部分:
以页28为例,它对应目录项2 ,这个目录项中包含着该页的页号28以及该页中用户记录的最小主键值 5 。我们只需要把几个目录项在物理存储器上连续存储,比如把他们放到一个数组里,就可以实现根据主键值快速查找某条记录的功能了。比方说我们想找主键值为 20 的记录,具体查找过程分两步:
上面这个简易的索引方案,我们是假设所有目录项都可以在物理存储器上连续存储,根据主键值进行查找时可以使用二分法快速定位具体的目录项,但是这样做有几个问题:
所以,InnoDB采用了一种可以灵活管理所有目录项的方式。将目录项中的两个列是主键和页号组成一个新的表,就可以复用之前存储用户记录的数据页来存储目录项,为了和用户记录做一下区分,我们把这些用来表示目录项的记录称为目录项记录 。那 InnoDB 怎么区分一条记录是普通的用户记录还是目录项记录呢?这里就用到了之前说过的record_type 属性,它的各个取值代表的意思如下:
0 :普通的用户记录
1 :目录项记录
2 :最小记录
3 :最大记录
从上图可以看出,我们新分配了一个编号为30的页来专门存储目录项记录 。这里再次说明一遍目录项记录和普通的用户记录的不同点:
除了上述几点外,这两者就没啥差别了,它们用的是一样的数据页(页面类型都是 0x45BF ,这个属性在 File Header 中),页的组成结构也是一样一样的(就是我们前边介绍过的7个部分),都会为主键值生成 Page Directory (页目录),从而在按照主键值进行查找时可以使用二分法来加快查询速度。现在以查找主键为 20 的记录为例,根据某个主键值去查找记录的步骤就可以大致拆分成下边两步:
1 . 先到存储 目录项记录的页,也就是页30中通过二分法快速定位到对应目录项,因为 12 < 20 < 209 ,所
以定位到对应的记录所在的页就是9 。
2 . 再到存储用户记录的 页9 中根据二分法快速定位到主键值为 20的用户记录。
虽然说目录项记录中只存储主键值和对应的页号,比用户记录需要的存储空间小多了,但是不论怎么说一个页只有16KB大小,能存放的目录项记录也是有限的,那如果表中的数据太多,以至于一个数据页不足以存放所有的目录项记录 ,该咋办呢?
当然是增加一个存储目录项记的页,为了更好的理解新分配一个目录项记录页的过程,我们假设一个存储目录项记录的页最多只能存放4条 目录项记录 (请注意是假设,真实情况下可以存放好多条的),所以如果此时我们再向上图中插入一条主键值为 320 的用户记录的话,那就需要分配一个新的存储目录项记录的页:
从图中可以看出,我们插入了一条主键值为 320 的用户记录之后需要两个新的数据页:为存储该用户记录而新生成了页31 。
因为原先存储目录项记录的页3 的容量已满(我们前边假设只能存储4条目录项记录 ),所以需要一个新的页32来存放页31对应的目录项。
现在因为存储目录项记录 的页不止一个,所以如果我们想根据主键值查找一条用户记录大致需要3个步骤,以查找主键值为220的记录为例:
1 . 确定目录项记录页
我们现在的存储目录项记录的页有两个,页30和页32 ,又因为页30 表示的目录项的主键值的范围是[1, 320) ,页32表示的目录项的主键值不小于320,所以主键值为220的记录对应的目录项记录在页30中(1<20<320)。
2 .通过目录项记录页确定用户记录真实所在的页。
在一个存储目录项记录的页中通过主键值定位一条目录项记录的方式说过了,参考上面。
3 . 在真实存储用户记录的页中定位到具体的记录。
参考前面二分法
那么问题来了,在这个查询步骤的第1步中我们需要定位存储目录项记录的页,但是这些页在存储空间中也可能不挨着,如果我们表中的数据非常多则会产生很多存储 目录项记录的页,那我们怎么根据主键值快速定位一个存储目录项记录的页呢?其实也简单,为这些存储 目录项记录 的页再生成一个更高级的目录,就像是一个多级目录一样,大目录里嵌套小目录,小目录里才是实际的数据,所以现在各个页的示意图就是这样子:
如图,我们生成了一个存储更高级目录项的 页33 ,这个页中的两条记录分别代表页30和页32 ,如果用户记录的主键值在 [1, 320) 之间,则到页30中查找更详细的目录项记录 ,如果主键值不小于320的话,就到 页32中查找更详细的目录项记录 。随着表中记录的增加,这个目录的层级会继续增加,如果简化一下,那么我们可以用下边这个图来描述它:
这看起来就像一个倒过来的树,上头是树根,下头是树叶!其实这是一种组织数据的形式,或者说是一种数据结构,就是我们常说的 B+ 树。
不论是存放用户记录的数据页,还是存放目录项记录的数据页,我们都把它们存放到 B+ 树这个数据结构中了,所以我们也称这些数据页为节点 。从图中可以看出来,我们的实际用户记录其实都存放在B+树的最底层的节点上,这些节点也被称为叶子节点 或叶节点 ,其余用来存放目录项的节点称为非叶子节点或者内节点 (B+数的上层节点),其中 B+ 树最上边的那个节点也称为根节点 。
从上图可以看出来,一个 B+树的节点其实可以分成好多层,InnoDB引擎规定最下边的那层,也就是我们存放用户记录的那层为第 0 层,之后依次往上加。之前的讨论我们做了一个非常极端的假设:存放用户记录的页最多存放3条记录,存放目录项记录的页最多存放4条记录。其实真实环境中一个页存放的记录数量是非常大的,假设,假设,假设所有存放用户记录的叶子节点代表的数据页可以存放100条用户记录,所有存放目录项记录的内节点代表的数据页可以存放1000条目录项记录(因为列数一般比用户真实记录列数少),那么:
思考一下我们实际使用中一个表的数据量有100000000000 条么?所以一般情况下,我们用到的 B+ 树都不会超过4层,那我们通过主键值去查找某条记录最多只需要做4个页面内的查找(查找3个目录项页和一个用户记录页),又因为在每个页面内有所谓的 Page Directory(页目录),所以在页面内也可以通过二分法实现快速定位记录,所以一般来说,通过索引来查找数据速度都非常快。
我们上边介绍的 B+ 树本身就是一个目录,或者说本身就是一个索引。它有两个特点:
1 . 使用记录主键值的大小进行记录和页的排序,这包括三个方面的含义:
我们把具有这两种特性的 B+ 树称为聚簇索引 ,所有完整的用户记录都存放在这个聚簇索引的叶子节点处。这种聚簇索引并不需要我们在 MySQL 语句中显式的使用 INDEX 语句去创建(后边会介绍索引相关的语句),InnoDB 存储引擎会自动的为我们创建聚簇索引。另外有趣的一点是,在 InnoDB 存储引擎中, 聚簇索引就是数据的存储方式(所有的用户记录都存储在了叶子点),也就是所谓的索引即数据,数据即索引。
上边介绍的聚簇索引只能在搜索条件是主键值时才能发挥作用,因为 B+ 树中的数据都是按照主键进行排序的。那如果我们想以别的列作为搜索条件该咋办呢?难道只能从头到尾沿着链表依次遍历记录么?不,我们可以多建几棵 B+ 树,不同的 B+ 树中的数据采用不同的排序规则。比如说我们用 c2 列的大小作为数据页、页中记录的排序规则,再建一棵 B+ 树,效果如下图所示:
这个 B+ 树与上边介绍的聚簇索引有几处不同:
所以如果我们现在想通过 c2 列的值查找某些记录的话就可以使用我们刚刚建好的这个B+树了。以查找c2列的值为4的记录为例,查找过程如下:
1 . 确定目录项记录页
根据根页面 ,也就是页44 ,可以快速定位到目录项记录所在的页为页42 (因为 2 < 4 < 9 )。
2 . 通过目录项记录页确定用户记录真实所在的页。
在页42中可以快速定位到实际存储用户记录的页,但是由于c2列并没有唯一性约束,所以c2列值为4的记录可能分布在多个数据页中,又因为 2 < 4 ≤ 4 ,所以确定实际存储用户记录的页在页34和页35中。
3 . 在真实存储用户记录的页中定位到具体的记录。
到页34和页35 中定位到具体的记录。
4 . 但是这个 B+ 树的叶子节点中的记录只存储了 c2 和 c1 (也就是主键 )两个列,所以我们必须再根据主键值去聚簇索引中再查找一遍完整的用户记录。
各位,看到步骤4的操作了么?我们根据这个以 c2 列大小排序的 B+ 树只能确定我们要查找记录的主键值,所以如果我们想根据 c2 列的值查找到完整的用户记录的话,仍然需要到聚簇索引中再查一遍,这个过程也被称为回表 。也就是根据 c2 列的值查询一条完整的用户记录需要使用到2棵 B+ 树!!!
为什么我们还需要一次回表操作呢?直接把完整的用户记录放到叶子节点不就好了么?确实如果把完整的用户记录放到叶子节点是可以不用回表 ,但是太占地方了呀~相当于每建立一棵 B+ 树都需要把所有的用户记录再都拷贝一遍,这就有点太浪费存储空间了。因为这种按照非主键列建立的 B+ 树需要一次回表操作才可以定位到完整的用户记录,所以这种 B+ 树也被称为 二级索引 (英文名 secondary index ),或者辅助索引 。由于我们使用的是 c2 列的大小作为 B+ 树的排序规则,所以我们也称这个B+树为为c2列建立的索引。
我们也可以同时以多个列的大小作为排序规则,也就是同时为多个列建立索引,比方说我们想让 B+ 树按照 c2和 c3 列的大小进行排序,这个包含两层含义:
为 c2 和 c3 列建立的索引的示意图如下:
如上图所示,我们需要注意一下几点:
我们前边介绍 B+ 树索引的时候,为了大家理解上的方便,先把存储用户记录的叶子节点都画出来,然后接着画
存储目录项记录的内节点,实际上 B+ 树的形成过程是这样的:
需要注意的是:一个B+树索引的根节点自诞生之日起,便不会再移动。这样只要我们对某个表建立一个索引,那么它的根节点 的页号便会被记录到某个地方,然后凡是 InnoDB 存储引擎需要用到这个索引的时候,都会从那个固定的地方取出根节点的页号,从而来访问这个索引。
我们知道 B+ 树索引的内节点中目录项记录的内容是索引列 + 页号的搭配,但是这个搭配对于二级索引来说有点儿不严谨。还拿 index_demo 表为例,假设这个表中的数据是这样的
c1 | c2 | c3 |
---|---|---|
1 | 1 | ‘u’ |
3 | 1 | ‘d’ |
5 | 1 | ‘y’ |
7 | 1 | ‘a’ |
如果二级索引中目录项记录的内容只是索引列 +页号的搭配的话,那么为 c2 列建立索引后的 B+ 树应该入下:
如果我们想新插入一行记录,其中 c1 、 c2 、 c3 的值分别是: 9 、 1 、 ‘c’ ,那么在更新这个为 c2 列建立的二级索引对应的 B+ 树时便碰到了个大问题:由于页3中存储的目录项记录是由 c2列 + 页号的值构成的,
页3 中的两条目录项记录对应的 c2 列的值都是 1 ,而我们新插入的这条记录的 c2 列的值也是 1 ,那我们这条新插入的记录到底应该放到页4 中,还是应该放到页5 中啊?答案是:对不起,懵逼了。
为了让新插入记录能找到自己在那个页里,我们需要保证在B+树的同一层内节点的目录项记录除 页号 这个字段以外是唯一的。所以对于二级索引的内节点的目录项记录的内容实际上是由三个部分构成的:
索引列的值主键值页号
也就是我们把主键值也添加到二级索引内节点中的目录项记录了,这样就能保证 B+ 树每一层节点中各条目录项记录除页号这个字段外是唯一的,所以我们为 c2 列建立二级索引后的示意图实际上应该是如下的:
这样我们再插入记录 (9, 1, ‘c’) 时,由于页3中存储的目录项记录是由c2列 + 主键 + 页号的值构成的,可以先把新记录的 c2 列的值和 页3 中各目录项记录的 c2 列的值作比较,如果 c2 列的值相同的话,可以接着比较主键值,因为 B+ 树同一层中不同目录项记录的 c2列 + 主键的值肯定是不一样的,所以最后肯定能定位唯一的一条目录项记录,在本例中最后确定新记录应该被插入到页5 中。
我们前边说过一个B+树只需要很少的层级就可以轻松存储数亿条记录,而且添加了索引查询速度也很快。这是因为B+树本质上就是一个大的多层级目录,每经过一个目录时都会过滤掉许多无效的子目录,直到最后访问到存储真实数据的目录。那如果一个大的目录中只存放一个子目录是个啥效果呢?那就是目录层级非常非常多(看起来就是一条直线),而且最后的那个存放真实数据的目录中只能存放一条记录。费了半天劲只能存放一条真实的用户记录?所以 InnoDB 的 一个数据页至少可以存放两条记录,这也是我们之前唠叨记录行格式的时候说过一个结论(我们当时依据这个结论推导了表中只有一个列时该列在不发生行溢出的情况下最多能存储多少字节)。
上面介绍的都是 InnoDB 存储引擎中的索引方案,为了内容的完整性,以及各位可能在面试的时候遇到这类的问题,我们有必要再简单介绍一下 MyISAM 存储引擎中的索引方案。我们知道 InnoDB 中索引即数据,也就是聚簇索引的那棵 B+ 树的叶子节点中已经把所有完整的用户记录都包含了,而 MyISAM 的索引方案虽然也使用树形结构,但是却将索引和数据分开存储:
注意:MyISAM的行格式有定长记录格式(Static)、变长记录格式(Dynamic)、压缩记录格式(Compres sed)。上边的index_demo表采用定长记录格式,也就是一条记录占用存储空间的大小是固定的,这样就可以轻松算出某条记录在数据文件中的地址偏移量。但是变长记录格式就不行了,MyISAM会直接在索引叶子节点处存储该条记录在数据文件中的地址偏移量。通过这个可以看出,MyISAM 的回表操作是十分快速的,因为是拿着地址偏移量直接到文件中取数据的,反观InnoDB是通过获取主键之后再去聚簇索引里边儿找记录,虽然说也不慢,但还是比不上直接用地址去访问。 这里我门主要是要理解在InnoDB中的索引即数据,数据即索引,而MyISAM中却是索引是索引、数据是数据。
了解了索引的原理后,那么在 MySQL中说如何建立这种索引的呢? InnoDB 和 MyISAM 会自动为主键或者声明为 UNIQUE 的列去自动建立 B+ 树索引,但是如果我们想为其他的列建立索引就需要我们显式的去指明。为啥不自动为每个列都建立个索引呢?因为每建立一个索引都会建立一棵 B+ 树,每插入一条记录都要维护各个记录、数据页的排序关系,这是很费性能和存储空间的。
我们可以在创建表的时候指定需要建立索引的单个列或者建立联合索引的多个列:
CREATE TALBE 表名 (
各种列的信息 ··· ,
[KEY|INDEX] 索引名 (需要被索引的单个列或多个列)
)
其中的 KEY 和 INDEX 是同义词,任意选用一个就可以。我们也可以在修改表结构的时候添加索引:
ALTER TABLE 表名 ADD [INDEX|KEY] 索引名 (需要被索引的单个列或多个列);
也可以在修改表结构的时候删除索引:
ALTER TABLE 表名 DROP [INDEX|KEY] 索引名;
比如我们想在创建 index_demo 表的时候就为 c2 和 c3 列添加一个 联合索引 ,可以这么写建表语句:
create table index_demo(
c1 int,
c2 int,
c3 char(1),
primary key(c1),
index idx_c2_c3 (c2, c3)
);
在这个建表语句中我们创建的索引名是 idx_c2_c3 ,这个名称可以随便起,不过我们还是建议以 idx_ 为前缀,后边跟着需要建立索引的列名,多个列名之间用下划线 _ 分隔开。 如果我们想删除这个索引,可以这么写:
alter table index_demo drop index idx_c2_c3;
更多关于mysql的知识分享,请前往博客主页。编写过程中,难免出现差错,敬请指出