原文链接 - InnoDB记录存储结构
MySQL服务器上负责对表中数据的读取和写入工作的部分是存储引擎,而服务器又支持不同类型的存储引擎,如InnoDB、MyISAM、Memory等。
不同的存储引擎一般是为实现不同的特性而开发的,数据在不同存储引擎中存放的格式一般是不相同的,
甚至有的存储引擎比如Memory都不用磁盘存储数据,也就是说关闭服务器后表中的数据就消失了。
本文主要了解InnoDB作为存储引擎的数据存储结构
InnoDB简介
InnoDB是一个将表中的数据存储到磁盘上的存储引擎,所以即使关机后重启我们的数据还是存在的。
但处理数据的过程是在内存中进行的,所以需要把磁盘中的数据加载到内存中,如果是处理写入或修改请求的话,还需要把内存中的内容刷新到磁盘上。
因为磁盘的速度非常慢,和内存读写差几个数量级,所以当我们想从表中获取某些记录时,InnoDB存储引擎需要一条一条的把记录从磁盘上读出来么?不,那样会慢死。
InnoDB采取的方式是:
将数据划分为若干个页,以页作为磁盘和内存之间交互的基本单位。一般情况下,InnoDB中页的大小一般为 16KB。
也就是一次最少从磁盘中读取16KB的内容到内存中,一次最少把内存中的16KB内容刷新到磁盘中。
InnoDB行格式
我们平时是以记录为单位来向表中插入数据的,这些记录在磁盘上的存放方式也被称为行格式或者记录格式。
设计InnoDB存储引擎的开发者们到现在为止设计了4种不同类型的行格式,分别是Compact、Redundant、Dynamic和Compressed行格式。
指定格式:
CREATE TABLE 表名 (列的信息) ROW_FORMAT=行格式名称
ALTER TABLE 表名 ROW_FORMAT=行格式名称
//示例用表
CREATE TABLE record_format_demo
( c1 VARCHAR(10),
c2 VARCHAR(10) NOT NULL,
c3 CHAR(10),
c4 VARCHAR(10)
)CHARSET=ascii ROW_FORMAT=COMPACT;
//表的字符集为ascii,
//ascii字符集只包括空格、标点符号、数字、大小写字母和一些不可见字符
//不能存汉字
INSERT INTO record_format_demo
VALUES('aaaa', 'bbb', 'cc', 'd'),
('eeee', 'fff', NULL, NULL);
1. COMPACT行格式
一条完整的记录分为
记录的额外信息
是服务器为了描述这条记录而不得不额外添加的一些信息,这些额外信息分为3类,分别是变长字段长度列表、NULL值列表和记录头信息。
变长字段长度列表
MySQL支持一些变长的数据类型,比如VARCHAR(M)、各种TEXT类型,各种BLOB类型,这些变长的数据类型占用的存储空间分为:真正的数据内容 和 占用的字节数。
如果不保存真实数据占用的字节数的话,MySQL服务器也不知道我们存储的数据究竟有多长。
在Compact行格式中,把所有变长类型的列的长度都存放在记录的开头部位形成一个列表,按照列的顺序逆序存放!逆序存放!逆序存放!
以record_format_demo表中的第一条记录为例
表中c1、c2、c4列都是VARCHAR(10)变长的数据类型,所以这三个列的值的长度都需要保存在记录开头处,
表中的列都使用的是ascii字符集,所以每个字符只需要1个字节来进行编码。
列名 | 存储内容 | 内容长度10进制 | 内容长度16进制 |
---|---|---|---|
c1 | 'aaaa' | 4 | 0x04 |
c2 | 'bbb' | 3 | 0x03 |
c3 | 'd' | 1 | 0x01 |
注意:
变长字段长度列表中只存储值为 非NULL 的列内容占用的长度,
值为 NULL 的列的长度是不储存的
NULL值列表
表中的某些列可能存储NULL值,如果把这些NULL值都放到记录的真实数据中存储会很占地方,所以Compact行格式把这些值为NULL的列统一管理起来,存储到NULL值列表中。
处理过程:
首先统计表中允许存储NULL的列有哪些
主键列、被NOT NULL修饰的列都是不可以存储NULL值的,所以在统计的时候不会把这些列算进去。
如表record_format_demo的3个列c1、c3、c4都是允许存储NULL值的,而c2列是被NOT NULL修饰,不允许存储NULL值。如果表中没有允许存储 NULL 的列,则 NULL值列表也不存在了,否则将每个允许存储NULL的列对应一个二进制位,二进制位按照列的逆序排列。
二进制位的值为1时,代表该列的值为NULL。
二进制位的值为0时,代表该列的值不为NULL。-
MySQL规定NULL值列表必须用整数个字节的位表示,如果使用的二进制位个数不是整数个字节,则在字节的高位补0。
记录头信息
它是由固定的5个字节,即40个二进制位组成,不同的位代表不同的意思。名称 | 大小bit | 描述 |
---|---|---|
预留位1 | 1 | 没有使用 |
预留位2 | 1 | 没有使用 |
delete_mask | 1 | 标记该记录是否被删除 |
min_rec_mask | 1 | 该记录是否为B+树的非叶子节点中的最小记录 |
n_owned | 4 | 当前槽管理的记录数 |
heap_no | 13 | 当前记录在记录堆的位置信息 |
record_type | 3 | 表示当前记录的类型,0表示普通记录,1表示B+树非叶节点记录,2表示最小记录,3表示最大记录 |
next_record | 16 | 下一条记录的相对位置 |
记录的真实数据
记录的真实数据除了我们插入的那些列的数据,
MySQL会为每个记录默认的添加一些隐藏列:
列名 | 是否必须 | 占用空间 | 描述 |
---|---|---|---|
row_id | 否 | 6字节 | 行ID,唯一标识一条记录 |
transaction_id | 是 | 6字节 | 事务ID |
roll_pointer | 是 | 7字节 | 回滚指针 |
注意1:
row_id 只有在表没有定义主键的时候才会为记录添加,
相当于MySQL服务器帮我们来添加一个主键。
注意2:
表record_format_demo使用的是ascii字符集,
所以0x61616161就表示字符串'aaaa',
0x626262就表示字符串'bbb',以此类推。
注意3:
记录1中c3列数据类型是CHAR(10),但实际存储的字符串是:'cc',ascii字符集中的字节表示是'0x6363'。
虽然表示这个字符串只占用了2个字节,但整个c3列仍然占用了10个字节的空间,除真实数据以外的8个字节的统统都用空格字符填充,空格字符在ascii字符集的表示就是0x20。
注意4:
记录2中c3和c4列的值都为NULL,被存储在NULL值列表处,在记录的真实数据处就不再冗余存储,以节省存储空间。
2. Redundant 行格式
Redundant行格式是MySQL5.0之前用的一种行格式,非常古老。
将示例中的表改成Redundant格式
ALTER TABLE record_format_demo ROW_FORMAT=Redundant;
表record_format_demo在Redundant行格式下如图
字段长度偏移列表
- Redundant行格式会把该条记录中所有列(包括隐藏列)的长度都按照逆序存储到字段长度偏移列表
- 采用两个相邻数值的差值来计算各个列值的长度
//第一条记录的字段长度偏移列表
25 24 1A 17 13 0C 06
//正序
06 0C 13 17 1A 24 25
//按照两个相邻数值的差值来计算各个列值的长度
第一列(`row_id`)的长度就是 0x06个字节,也就是6个字节。
第二列(`transaction_id`)的长度就是 (0x0C - 0x06)个字节,也就是6个字节。
第三列(`roll_pointer`)的长度就是 (0x13 - 0x0C)个字节,也就是7个字节。
第四列(`c1`)的长度就是 (0x17 - 0x13)个字节,也就是4个字节。
第五列(`c2`)的长度就是 (0x1A - 0x17)个字节,也就是3个字节。
第六列(`c3`)的长度就是 (0x24 - 0x1A)个字节,也就是10个字节。
第七列(`c4`)的长度就是 (0x25 - 0x24)个字节,也就是1个字节。
记录头信息
Redundant行格式的记录头信息占用6字节,48个二进制位
名称 | 大小bit | 描述 |
---|---|---|
预留位1 | 1 | 没有使用 |
预留位2 | 1 | 没有使用 |
delete_mask | 1 | 标记该记录是否被删除 |
min_rec_mask | 1 | 标记该记录是否为最小的记录 |
n_owned | 4 | 表示当前槽管理的记录数 |
heap_no | 13 | 表示当前记录在页面堆的位置信息 |
n_field | 10 | 表示记录中列的数量 |
1byte_offs_flag | 1 | 标记字段长度偏移列表中的偏移量是使用1字节还是2字节表示的 |
next_record | 16 | 表示下一条记录的相对位置 |
真实数据
第二条记录的c3列的值是NULL,
在Redundant行格式中使用0x00 00 00 00 00 00 00 00 00 00来表示NULL值,
而在Compact行格式中,值为NULL的列并不占用存储。
3. Dynamic和Compressed行格式
两个比较新的行格式:Dynamic和Compressed行格式,
现在使用的MySQL版本是5.7,它的默认行格式就是Dynamic。
这俩行格式和Compact行格式非常像,只不过在处理行溢出数据时有点儿分歧,它们不会在记录的真实数据处存储字符串的前768个字节。
而是把所有的字节都存储到其他页面中,只在记录的真实数据处存储其他页面的地址。
另外,Compressed 行格式会把存储在其他页面中的数据进行压缩处理。
总结:
- 页是MySQL中磁盘和内存交互的基本单位,也是MySQL管理存储空间的基本单位。
- 一个页一般是16KB,当记录中的数据太多,当前页放不下的时候,会把多余的数据存储到其他页中,这种现象称为行溢出。