1 数据结构及算法基础
1.1 索引的本质
官方定义:索引(Index)是帮助MySQL高效获取数据的数据结构
本质:索引是数据结构
查询是数据库的最主要功能之一。我们都希望查询速度能尽可能快,因此数据库系统的设计者会从查询算法角度优化
最基本的查询算法当然是顺序查找(linear search),这种复杂度为O(n)的算法在数据量很大时显然是糟糕的
好在CS的发展提供了很多更优秀的查找算法,如二分查找(binary search)、二叉树查找(binary tree search)等
稍微分析一下会发现,每种查找算法都只能应用于特定数据结构,如二分查找要求被检索数据有序,而二叉树查找只能应用于二叉查找树,但数据本身的组织结构不可能完全满足各种数据结构(例如,理论上不可能同时将两列都按顺序进行组织)
所以,在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构上实现高级查找算法
这种ADT,就是索引
图1 一个例子
图1展示了一种可能的索引方式
左边是数据表,两列14条记录,最左边是数据记录的物理地址(注意逻辑上相邻的记录在磁盘上并不一定物理相邻)
为加快Col2的查找,可维护一个右边所示二叉查找树,每个节点分别包含索引键值及一个指向对应数据记录物理地址的指针,这样就可以运用二叉查找在O(log2 N)内取到相应数据
虽然这是一个货真价实的索引,但实际数据库系统几乎没有使用二叉查找树或其进化品种红黑树(red-black tree)实现
1.2 经典常用索引类型:B Tree和B+Tree
目前大部分数据库系统及文件系统都采用B Tree或其变种B+Tree作为索引结构
1.2.1 B Tree
定义数据记录为一个二元组[key, data]
key为记录的键值,对于不同数据记录,key互不相同
data为数据记录除key外的数据
B Tree有如下特点:
d为大于1的一个正整数,称为B-Tree的度
h为一个正整数,称为B-Tree的高度
每个非叶节点由n-1个key和n个指针组成,其中d<=n<=2d
每个叶节点最少包含一个key和两个指针,最多包含2d-1个key和2d个指针,叶节点的指针均为null
所有叶节点具有相同的深度,等于树高h
key和指针互相间隔,节点两端是指针
一个节点中的key从左到右非递减排列
所有节点组成树结构
每个指针要么为null,要么指向另外一个节点
如果某个指针在节点node最左边且不为null,则其指向节点的所有key小于>v(key1),v(key1)为node的第一个key的值
如果某个指针在节点node最右边且不为null,则其指向节点的所有key大于v(keym),v(keym)为node的最后一个key的值。
如果某个指针在节点node的左右相邻key分别是keyi,keyi+1且不为null,则其指向节点的所有key小于v(keyi+1)且大于v(keyi)
图2 d=2的B-Tree示意图
由于B Tree的特性,按key检索数据的算法非常直观
首先从根节点二分查找
如果找到则返回对应节点的data
否则对相应区间的指针指向的节点递归进行查找
直到找到目标节点/null指针,查找成功/失败
bTreeSearch(node, key) {
if(node == null) return null;
foreach(node.key) {
if(node.key[i] == key) return node.data[i];
if(node.key[i] > key) return bTreeSearch(point[i]->node);
}
return bTreeSearch(point[i+1]->node);
}
data = bTreeSearch(root, my_key);
关于B-Tree有一系列有趣的性质,例如一个度为d的B-Tree,设其索引N个key,则其树高h的上限为
检索一个key,其查找节点个数的渐进时间复杂度为
从这点可以看出,B Tree是一个非常有效率的索引数据结构
1.2.2 B+Tree
B-Tree有许多变种,其中最常见的是B+Tree,MySQL普遍用其实现索引
与B Tree相比,B+Tree有以下不同点
每个节点的指针上限为2d
内节点只存key
叶节点不存指针,叶节点指向被索引的数据而不是其他叶节点
innodb中,指向的是主键
myshaym中指向的是数据的物理地址
图3 一个简单的B+Tree
由于并不是所有节点都具有相同的域,因此B+Tree中叶节点和内节点一般大小不同
这点与B Tree不同,虽然B Tree中不同节点存放的key和指针可能数量不一致,但是每个节点的域和上限是一致的,所以在实现中B Tree往往对每个节点申请同等大小的空间
一般来说,B+Tree比B Tree更适合实现外存储索引结构
1.2.2.1 带有顺序访问指针的B+Tree
在经典B+Tree的基础上进行了优化,增加了顺序访问指针
图4
如图4所示,在B+Tree的每个叶节点增加一个指向相邻叶节点指针,形成带有顺序访问指针的B+Tree
此优化的目的是提高区间访问的性能,例如图4中如果要查询key为从18到49的所有数据记录,当找到18后,只需顺着节点和指针顺序遍历就可以一次性访问到所有数据节点,极大提高了区间查询效率
1.3 为什么使用B Tree(B+Tree)
红黑树也可用来实现索引,但是文件系统及数据库系统普遍采用B/+Tree,何也?
一般来说,索引本身也很大,不可能全存内存,往往以索引文件的形式存在磁盘
索引查找过程中就要产生磁盘I/O消耗,相对于内存存取,I/O存取的消耗要高几个数量级,所以评价一个数据结构作为索引的优劣最重要的指标就是在查找过程中磁盘I/O操作次数的渐进复杂度。
B树在提高了IO性能的同时并没有解决元素遍历的我效率低下的问题,正是为了解决这个问题,B+树应用而生.B+树只需要去遍历叶子节点就可以实现整棵树的遍历.而且在数据库中基于范围的查询是非常频繁的,而B树不支持这样的操作(或者说效率太低).
换句话说,索引的结构组织要尽量减少查找过程中磁盘I/O的存取次数
1.4 主存存取原理
计算机使用的主存基本都是随机读写存储器(RAM),抽象出一个十分简单的存取模型来说明RAM的工作原理
图5 4x4的主存模型
从抽象角度看,主存是一系列的存储单元组成的矩阵,每个存储单元存储固定大小的数据
每个存储单元有唯一的地址,现代主存的编址规则比较复杂,这里将其简化成一个二维地址:通过一个行地址和一个列地址可以唯一定位到一个存储单元
存取过程
当系统需要读取主存时,将地址信号通过地址总线传给主存,主存读到地址信号后,解析信号并定位到指定存储单元,然后将此存储单元数据放到数据总线,供其它部件读取
写主存
过程类似,系统将要写入单元地址和数据分别放在地址总线和数据总线上,主存读取两个总线的内容,做相应的写操作
这里可以看出,主存存取的时间仅与存取次数呈线性关系,因为不存在机械操作,两次存取的数据的“距离”不会对时间有任何影响,例如,先取A0再取A1和先取A0再取D3的时间消耗是一样的
1.5 磁盘存取原理
索引一般以文件形式存储在磁盘上,索引检索需要磁盘I/O
与主存不同,磁盘I/O存在机械消耗,因此磁盘I/O时间消耗巨大
图6 磁盘的整体结构示意图
磁盘由大小相同且同轴的圆形盘片组成,磁盘可以转动(各磁盘必须同步转动)
在磁盘的一侧有磁头支架,磁头支架固定了一组磁头,每个磁头负责存取一个磁盘的内容。磁头不能转动,但是可以沿磁盘半径方向运动(实际是斜切向运动),每个磁头同一时刻也必须是同轴的,即从正上方向下看,所有磁头任何时候都是重叠的(不过目前已经有多磁头独立技术,可不受此限制)
图7 磁盘结构的示意图
盘片被划分成一系列同心环,圆心是盘片中心,每个同心环叫做一个磁道,所有半径相同的磁道组成一个柱面。磁道被沿半径线划分成一个个小的段,每个段叫做一个扇区,每个扇区是磁盘的最小存储单元。为了简单起见,我们下面假设磁盘只有一个盘片和一个磁头。
当需要从磁盘读取数据时,系统会将数据逻辑地址传给磁盘,磁盘的控制电路按照寻址逻辑将逻辑地址翻译成物理地址,即确定要读的数据在哪个磁道,哪个扇区
为了读取这个扇区的数据,需要将磁头放到这个扇区上方,为了实现这一点,磁头需要移动对准相应磁道,这个过程叫做寻道,所耗费时间叫做寻道时间,然后磁盘旋转将目标扇区旋转到磁头下,这个过程耗费的时间叫做旋转时间
1.6