【笔记】MYSQL单表数据达2000万性能严重下降,为什么?

明确一点
不一定是2000万,还是得看数据大小,阿里巴巴《Java开发手册》提出:单表行数超过500万行或者单表容量超过2GB,才推荐进行分库分表。

索引结构
索引是一棵B+树,聚簇索引既是索引,也是数据,B+树上的一个节点,也就是存储引擎中的一个页,大小是16K。

原因
假设一个数据页可以存放100条数据记录,一个目录页可以存1000条目录项记录,2层就是10w,3层就是1亿,四层就是1000亿,当然没有单表会存这么多数据。
所以通常一般这个B+树是三层,由于使用innodb存储引擎,根节点(也就是目录页)是常驻内存的,这个时候只需两次磁盘IO就可以找到目标数据。
如果数据量达到一定程度,B+树的高度达到4层,IO次数增加,这个时候性能就会下降。

在计算机中磁盘存储数据最小单元是扇区,一个扇区的大小是512字节,而文件系统(例如XFS/EXT4)他的最小单元是块,一个块的大小是4k,而对于我们的InnoDB存储引擎也有自己的最小储存单元——页(Page),一个页的大小是16K。

innodb的所有数据文件(后缀为ibd的文件),他的大小始终都是16384(16k)的整数倍。

磁盘扇区、文件系统、InnoDB存储引擎都有各自的最小存储单元。

【笔记】MYSQL单表数据达2000万性能严重下降,为什么?_第1张图片
现在我们清楚了InnoDB中主键索引B+树是如何组织数据、查询数据的,我们总结一下:

1、InnoDB存储引擎的最小存储单元是页,页可以用于存放数据也可以用于存放键值+指针,在B+树中叶子节点存放数据,非叶子节点存放键值+指针。

2、索引组织表通过非叶子节点的二分查找法以及指针确定数据在哪个页中,进而在去数据页中查找到需要的数据;

那么回到我们开始的问题,通常一棵B+树可以存放多少行数据?

这里我们先假设B+树高为2,即存在一个根节点和若干个叶子节点,那么这棵B+树的存放总记录数为:根节点指针数*单个叶子节点记录行数。

上文我们已经说明单个叶子节点(页)中的记录数=16K/1K=16。(这里假设一行记录的数据大小为1k,实际上现在很多互联网业务数据记录大小通常就是1K左右)。

那么现在我们需要计算出非叶子节点能存放多少指针,其实这也很好算,我们假设主键ID为bigint类型,长度为8字节,而指针大小在InnoDB源码中设置为6字节,这样一共14字节,我们一个页中能存放多少这样的单元,其实就代表有多少指针,即16384/14=1170。那么可以算出一棵高度为2的B+树,能存放1170*16=18720条这样的数据记录。

根据同样的原理我们可以算出一个高度为3的B+树可以存放:1170117016=21902400条这样的记录。所以在InnoDB中B+树高度一般为1-3层,它就能满足千万级的数据存储。在查找数据时一次页的查找代表一次IO,所以通过主键索引查询通常只需要1-3次IO操作即可查找到数据。

接下来我们用hexdump工具,查看表空间文件指定偏移量上的数据:
【笔记】MYSQL单表数据达2000万性能严重下降,为什么?_第2张图片

linetem表的page level为2,B+树高度为page level+1=3;

region表的page level为0,B+树高度为page level+1=1;

customer表的page level为2,B+树高度为page level+1=3;

这三张表的数据量如下:

【笔记】MYSQL单表数据达2000万性能严重下降,为什么?_第3张图片

总结:

lineitem表的数据行数为600多万,B+树高度为3,customer表数据行数只有15万,B+树高度也为3。可以看出尽管数据量差异较大,这两个表树的高度都是3,换句话说这两个表通过索引查询效率并没有太大差异,因为都只需要做3次IO。那么如果有一张表行数是一千万,那么他的B+树高度依旧是3,查询效率仍然不会相差太大。

region表只有5行数据,当然他的B+树高度为1。

你可能感兴趣的:(mysql,笔记,mysql,数据库)