06-数据库检索:如何使用B-树对海量磁盘数据建立索引?

06-数据库检索:如何使用B-树对海量磁盘数据建立索引?

你好,我是陈东。

在基础篇中,我们学习了许多和检索相关的数据结构和技术。但是在大规模的数据环境下,这些技术的应用往往会遇到一些问题,比如说,无法将数据全部加载进内存。再比如说,无法支持索引的高效实时更新。而且,对于复杂的系统和业务场景,我们往往需要对基础的检索技术进行组合和升级。这就需要我们对实际的业务问题和解决方案十分了解。

所以,从这一讲开始,我会和你一起探讨实际工作中的系统和业务问题,分享给你一些工业界中常见的解决方案,帮助你积累对应的行业经验,让你能够解决工作中的检索难题。

在工业界中,我们经常会遇到的一个问题,许多系统要处理的数据量非常庞大,数据无法全部存储在内存中,需要借助磁盘完成存储和检索。我们熟悉的关系型数据库,比如MySQL和Oracle,就是这样的典型系统。

数据库中支持多种索引方式,比如,哈希索引、全文索引和B+树索引,其中B+树索引是使用最频繁的类型。因此,今天我们就一起来聊一聊磁盘上的数据检索有什么特点,以及为什么B+树能对磁盘上的大规模数据进行高效索引。

磁盘和内存中数据的读写效率有什么不同?

首先,我们来探讨一下,存储在内存中和磁盘中的数据,在检索效率方面有什么不同。

内存是半导体元件。对于内存而言,只要给出了内存地址,我们就可以直接访问该地址取出数据。这个过程具有高效的随机访问特性,因此内存也叫随机访问存储器(Random Access Memory,即RAM)。内存的访问速度很快,但是价格相对较昂贵,因此一般的计算机内存空间都相对较小。

而磁盘是机械器件。磁盘访问数据时,需要等磁盘盘片旋转到磁头下,才能读取相应的数据。尽管磁盘的旋转速度很快,但是和内存的随机访问相比,性能差距非常大。到底有多大呢?一般来说,如果是随机读写,会有10万到100万倍左右的差距。但如果是顺序访问大批量数据的话,磁盘的性能和内存就是一个数量级的。为什么会这样呢?这和磁盘的读写原理有关。那具体是怎么回事呢?

磁盘的最小读写单位是扇区,较早期的磁盘一个扇区是512字节。随着磁盘技术的发展,目前常见的磁盘扇区是4K个字节。操作系统一次会读写多个扇区,所以操作系统的最小读写单位是(Block),也叫作(Cluster)。当我们要从磁盘中读取一个数据时,操作系统会一次性将整个块都读出来。因此,对于大批量的顺序读写来说,磁盘的效率会比随机读写高许多。

现在你已经了解磁盘的特点了,那我们就可以来看一下,如果使用之前学过的检索技术来检索磁盘中的数据,检索效率会是怎样的呢?

假设有一个有序数组存储在硬盘中,如果它足够大,那么它会存储在多个块中。当我们要对这个数组使用二分查找时,需要先找到中间元素所在的块,将这个块从磁盘中读到内存里,然后在内存中进行二分查找。如果下一步要读的元素在其他块中,则需要再将相应块从磁盘中读入内存。直到查询结束,这个过程可能会多次访问磁盘。我们可以看到,这样的检索性能非常低。

由于磁盘相对于内存而言访问速度实在太慢,因此,对于磁盘上数据的高效检索,我们有一个极其重要的原则:对磁盘的访问次数要尽可能的少

那问题来了,我们应该如何减少磁盘的访问次数呢?将索引和数据分离就是一种常见的设计思路。

如何将索引和数据分离?

我们以查询用户信息为例。我们知道,一个系统中的用户信息非常多,除了有唯一标识的ID以外,还有名字、邮箱、手机、兴趣爱好以及文章列表等各种信息。一个保存了所有用户信息的数组往往非常大,无法全部放在内存中,因此我们会将它存储在磁盘中。

06-数据库检索:如何使用B-树对海量磁盘数据建立索引?_第1张图片

常规数组存储

当我们以用户的ID进行检索时,这个检索过程其实并不需要读取存储用户的具体信息。因此,我们可以生成一个只用于检索的有序索引数组。数组中的每个元素存两个值,一个是用户ID,另一个是这个用户信息在磁盘上的位置,那么这个数组的空间就会很小,也就可以放入内存中了。这种用有序数组做索引的方法,叫作线性索引(Linear Index)。

06-数据库检索:如何使用B-树对海量磁盘数据建立索引?_第2张图片

索引与数据分离:线性索引

在数据频繁变化的场景中,有序数组并不是一个最好的选择,二叉检索树或者哈希表往往更有普适性。但是,哈希表由于缺乏范围检索的能力,在一些场合也不适用。因此,二叉检索树这种树形结构是许多常见检索系统的实施方案。那么,上图中的线性索引结构,就变成下图这个样子。

06-数据库检索:如何使用B-树对海量磁盘数据建立索引?_第3张图片

索引与数据分离:树形索引

尽管二叉检索树可以解决数据动态修改的问题,但在索引数据很大的情况下,依然会有数据无法完全加载到内存中。这种情况我们应该怎么办呢?

一个很自然的思路,就是将索引数据也存在磁盘中。那如果是树形索引,我们应该将哪些节点存入磁盘,又要如何从磁盘中读出这些数据进行检索呢?你可以先想一想,然后我们一起来看看业界常用的解决方案B+树是怎么做的。

如何理解B+树的数据结构?

B+树是检索技术中非常重要的一个部分。这是为什么呢?因为B+树给出了将树形索引的所有节点都存在磁盘上的高效检索方案,使得索引技术摆脱了内存空间的限制,得到了广泛的应用。

前面我们讲了,操作系统对磁盘数据的访问是以块为单位的。因此,如果我们想将树型索引的一个节点从磁盘中读出,即使该节点的数据量很小(比如说只有几个字节),但磁盘依然会将整个块的数据全部读出来,而不是只读这一小部分数据,这会让有效读取效率很低。B+树的一个关键设计,就是让一个节点的大小等于一个块的大小。节点内存储的数据,不是一个元素,而是一个可以装m个元素的有序数组。这样一来,我们就可以将磁盘一次读取的数据全部利用起来,使得读取效率最大化。

B+树还有另一个设计,就是将所有的节点分为内部节点和叶子节点。尽管内部节点和叶子节点的数据结构是一样的,但存储的内容是不同的。

内部节点仅存储key和维持树形结构的指针,并不存储key对应的数据(无论是具体数据还是文件位置信息)。这样内部节点就能存储更多的索引数据,我们也就可以使用最少的内部节点,将所有数据组织起来了。而叶子节点仅存储key和对应数据,不存储维持树形结构的指针。通过这样的设计,B+树就能做到节点的空间利用率最大化。

06-数据库检索:如何使用B-树对海量磁盘数据建立索引?_第4张图片

B+树的内部节点和叶子节点

此外,B+树还将同一层的所有节点串成了有序的双向链表,这样一来,B+树就同时具备了良好的范围查询能力和灵活调整的能力了。

因此,B+树是一棵完全平衡的m阶多叉树。所谓的m阶,指的是每个节点最多有m个子节点,并且每个节点里都存了一个紧凑的可包含m个元素的数组。

06-数据库检索:如何使用B-树对海量磁盘数据建立索引?_第5张图片

B+树的整体结构

B+树是如何检索的?

这样的结构,使得B+树可以作为一个完整的文件全部存储在磁盘中。当从根节点开始查询时,通过一次磁盘访问,我们就能将文件中的根节点这个数据块读出,然后在根节点的有序数组中进行二分查找。

具体的查找过程是这样的:我们先确认要寻找的查询值,位于数组中哪两个相邻元素中间,然后我们将第一个元素对应的指针读出,获得下一个block的位置。读出下一个block的节点数据后,我们再对它进行同样处理。这样,B+树会逐层访问内部节点,直到读出叶子节点。对于叶子节点中的数组,直接使用二分查找算法,我们就可以判断查找的元素是否存在。如果存在,我们就可以得到该查询值对应的存储数据。如果这个数据是详细信息的位置指针,那我们还需要再访问磁盘一次,将详细信息读出。

我们前面说了,B+树是一棵完全平衡的m阶多叉树。所以,B+树的一个节点就能存储一个包含m个元素的数组,这样的话,一个只有2到4层的B+树,就能索引数量级非常大的数据了,因此B+树的层数往往很矮。比如说,一个4K的节点的内部可以存储400个元素,那么一个4层的B+树最多能存储400^4,也就是256亿个元素。

不过,因为B+树只有4层,这就意味着我们最多只需要读取4次磁盘就能到达叶子节点。并且,我们还可以通过将上面几层的内部节点全部读入内存的方式,来降低磁盘读取的次数。

比如说,对于一个4层的B+树,每个节点大小为4K,那么第一层根节点就是4K,第二层最多有400个节点,一共就是1.6M;第三层最多有400^2,也就是160000个节点,一共就是640M。对于现在常见的计算机来说,前三层的内部节点其实都可以存储在内存中,只有第四层的叶子节点才需要存储在磁盘中。这样一来,我们就只需要读取一次磁盘即可。这也是为什么,B+树要将内部节点和叶子节点区分开的原因。通过这种只让内部节点存储索引数据的设计,我们就能更容易地把内部节点全部加载到内存中了。

B+树是如何动态调整的?

现在,你已经知道B+树的结构和原理了。那B+树在“新增节点”和“删除节点”这样的动态变化场景中,又是怎么操作的呢?接下来,让我们一起来看一下。

首先,我们来看插入数据。由于具体的数据都是存储在叶子节点上的,因此,数据的插入也是从叶子节点开始的。以一个节点有3个元素的B+树为例,如果我们要插入一个ID=6的节点,首先要查询到对应的叶子节点。如果叶子节点的数组未满,那么直接将该元素插入数组即可。具体过程如下图所示:

06-数据库检索:如何使用B-树对海量磁盘数据建立索引?_第6张图片

插入ID 6

如果我们插入的是ID=10的节点呢?按之前的逻辑,我们应该插入到ID 9后面,但是ID 9所在的这个节点已经存满了3个节点,无法继续存入了。因此,我们需要将该叶子节点分裂。分裂的逻辑就是生成一个新节点,并将数据在两个节点中平分。

06-数据库检索:如何使用B-树对海量磁盘数据建立索引?_第7张图片

插入ID 10,叶子节点分裂

叶子节点分裂完成以后,上一层的内部节点也需要修改。但如果上一层的父节点也是满的,那么上一层的父节点也需要分裂。

06-数据库检索:如何使用B-树对海量磁盘数据建立索引?_第8张图片

插入ID 10,内部节点修改

内部节点调整好了,下一步我们就要调整根节点了。由于根节点未满,因此我们不需要分裂,直接修改即可。

06-数据库检索:如何使用B-树对海量磁盘数据建立索引?_第9张图片

插入ID 10,根节点修改

删除数据也类似,如果节点数组较满,直接删除;如果删除后数组有一半以上的空间为空,那为了提高节点的空间利用率,该节点需要将左右两边兄弟节点的元素转移过来。可以成功转移的条件是,元素转移后该节点及其兄弟节点的空间必须都能维持在半满以上。如果无法满足这个条件,就说明兄弟节点其实也足够空闲,那我们直接将该节点的元素并入兄弟节点,然后删除该节点即可。

重点回顾

好了,今天的内容就先讲到这里。你会发现,即使是复杂的B+树,我们将它拆解开来,其实也是由简单的数组、链表和树组成的,而且B+树的检索过程其实也是二分查找。因此,如果B+树完全加载在内存中的话,它的检索效率其实并不会比有序数组或者二叉检索树更高,也还是二分查找的log(n)的效率。并且,它还比数组和二叉检索树更加复杂,还会带来额外的开销。

但是,B+树最大的优点在于,它提供了将索引数据存在磁盘中,以及高效检索的方案。这让检索技术摆脱了内存的限制,得到了更广泛地使用。

另外,这一节还有一个很重要的设计思想需要你掌握,那就是将索引和数据分离。通过这样的方式,我们能将索引的数组大小保持在一个较小的范围内,让它能加载在内存中。在许多大规模系统中,都是使用这个设计思想来精简索引的。而且,B+树的内部节点和叶子节点的区分,其实也是索引和数据分离的一次实践。

课堂讨论

最后,咱们来看一道讨论题。

B+树有一个很大的优势,就是适合做范围查询。如果我们要检索值在x到y之间的所有元素,你会怎么操作呢?

欢迎在留言区畅所欲言,说出你的思考过程和最终答案。如果有收获,也欢迎把这篇文章分享给你的朋友。

精选留言:

  • 一步 2020-04-08 11:34:17

    先通过二分查找找到 x 元素, 然后往后遍历叶子节点的链表(链表是有序的) 直至大于 y 停止,得到范围。 这里不能使用两次二分查找的原因是,叶子节点数据结构是链表,内存不是连续的,即使使用了2次二分查找找到了 x 和 y 还是要遍历链表得到这个范围的所有值的。 对于有序数组是可以的,因为内存是连续的 [3赞]

     

    作者回复2020-04-08 12:25:34

    很正确!这和Redis的范围查找也是使用遍历的方式是一个道理。取决于连续存储和不连续存储空间的差异。
    再补充一个小细节,叶子节点往往是存在于磁盘中,不过由于叶子节点会分裂和合并,因此在磁盘中它们也不是连续的。


  • 每天晒白牙 2020-04-09 08:18:28

    1.磁盘和内存中数据读写效率的对比
    内存是半导体元件,访问速度快,可以直接根据地址读取数据

    磁盘是机械器件,在读取数据时需要移动磁盘进行寻址,这个过程比较慢。所以在随机读写方面,磁盘远远慢于内存。但磁盘也有它的特点,磁盘最小读写单位是扇区,而操作系统的最小读写单位是块(块往往是多个扇区的组合),正是因为这种特性,使得磁盘的顺序读写性能远高于随机读写。

    所以,要想在磁盘中实现高效检索的重要原则是:对磁盘的访问次数尽可能少

    2.有效减少磁盘访问次数的思路是将索引和数据分离
    因为高效检索的原则是减少对磁盘的访问,对于数据量比较小的情况,可以直接把磁盘中的数据加载到内存中,可以利用内存的局部性原理加快检索。但现实往往是数据量非常大,所以我们还是需要借助磁盘来存储数据。访问磁盘必不可少,但可以通过将索引和数据分离的办法来减少对磁盘的访问。

    将索引和数据分离的初衷是把索引存到内存中,数据存到磁盘中。索引可以有三种方案:
    ①线性索引,比如用数组存放。但数组在数据频繁变更的场景下不适合,因为数组更新涉及到大量数据的移动
    ②哈希索引,缺乏范围检索能力,适用场景有限
    ③树形索引,比如用二叉检索树,既支持范围检索,又能保证数据频繁更新的情况下数据移动数量少,所以具有普适性。

    即使二叉检索树实现所以有诸多好处,但也避免不了数据量太大的情况不能完全加载到内存中的这种情况,所以只能将索引数据也存到磁盘中。

    3.b+树的设计
    b+树是一棵完全平衡的 m 阶多叉树。m 阶表示每个节点最多有 m 个子节点,并且每个节点存的是一个可以容纳 m 个元素的紧凑数组。所以一般 b+ 树比较矮,2-4层的 b+ 树就能存储非常大的数据量了。
    b+树有几个设计思想:
    ①让一个节点的大小等于一个块的大小,节点内存储可以装下多个元素的有序数组。这样就可以充分利用操作系统按块读取的特性,使得读取效率最大化。
    ②将节点区分为内部节点和叶子节点。他们结构相同,但存储的内容不同。
    内部节点存储 key 和维持树形结构的指针
    叶子节点存储 key 和数据
    这么做可以使得内部节点存储更多的索引数据。
    ③所有节点通过双向链表串联
    可以方便范围查询,这样的做法也有点跳表的意思。

    b+树如何检索?
    先从磁盘加载根节点所在的块,然后通过二分查找要检索的数据在数组中哪两个相邻元素中间,然后不断读取块,直到读到叶子节点,有了叶子节点就可以在叶子节点的数组中通过二分查找要检索的数据对应的指针。然后通过指针读取磁盘获取数据。
    【如果内存空间比较充足,可以把内部节点全部加载到内存中,以减少读取磁盘的次数】

    b+树如何动态调整?
    再添加数据和删除数据时,b+ 树为了保证平衡可能会进行页分裂和页合并【正是由于存在页分裂和页合并,所以叶子节点在磁盘上并不是连续存储的】

    4.思考题
    B+ 树有一个很大的优势,就是适合做范围查询。如果我们要检索值在 x 到 y 之间的所有元素,你会怎么操作呢?
    先查找 x 元素对应的叶子节点,然后往后遍历直到大于 y 元素停止

    5.疑惑
    我记得 MySQL b+树索引的叶子节点存储的是数据,老师在专栏中介绍存储的是元素的位置信息,这里有些疑惑,还请老师指点一下。

    6.问题请教
    这个问题也和检索相关,但可能和今天的主题没啥关系
    我们 DSP 这边需要对 ADX 请求过来的数据解析判断,现在 ipv6 的数据多了,我们想在调用内部 ip 定位服务前对这些数据进行缓存,key 对应 ipv6 地址,value 是 ip 对应的内部 localId,还要有过期时间。这里可以考虑放 redis 中,但我们想有没有其他好的方案。我同事做了一个对 ipv4 不错的缓存方案,因为 ipv4 都是数字,我们内部认为前三位相同就对应同一个 localId,他采用 long 类型的三维数组来存储,三位数组的下标对应 ipv4 的前三个数字,数组对应的值是 localId || cacheTime << 32 的值,即用一个 long 型的高 32 位存缓存时间,低32位存 localId,这个方案性能很好。但 ipv6 不止数字,这个方案套不进去,调研了一些,有说使用 Trie 树来做,但我看 Trie 树的应用场景是判断字符串是否存在,我们这个场景好像用不上或我没想到用的办法,还请老师指点一下,用什么样的检索方法实现 ipv6 达到类似 ipv4 那样的功能。
    [1赞]

     

    作者回复2020-04-09 13:08:24

    b+树的叶子节点存的是什么?是位置还是具体数据?这个问题很好!你如果注意的话,会发现我文中有写“位置或数据”。事实上,两种方案都可以,而且这是两种数据库b+树的实现方案。只存数据的,是innoDB,而存文件位置的,是myIsam。这两种方案的各种特性根源都和b+树叶子节点存什么密切相关。你有兴趣可以去深入学习。

    至于你的ipv4和ipv6的检索问题,其实你们之前ipv4的检索方案,是将ipv4直接作为数组下标查询,时间代价O(1)。和位图是不是很像?
    那我提供三个思路你看看。
    1.直接使用哈希表解决ipv6问题。时间代价也是o(1),只是哈希表空间需要足够。
    2.类似ipv4的位图思路,生成一个超大的位图,内存放不下的话,可以使用分布式技术,不同Redis存不同的分段。
    3.参考roaring bitmap的思路(或者是倒排索引的思路)对大位图进行压缩处理。我们可以将ipv6分为4段。第一段就是32位,你可以沿用ipv4的处理思路,用位图法判断一个ipv6地址属于哪个位置,然后这个位置后面,再拿出下一段的32位,再做一个位图(其实就是分层位图)。然后你可以看看,哪些位图是可以替换为有序数组的。这样的设计就是空间可以压缩,但是查找效率会介于二分查找和o(1)之间。


  • 花晨少年 2020-04-08 14:45:19

    请问内部节点和叶子节点的value有什么区别,一个是pointer,一个是pos,不管是叶子节点还是内部节点都有可能在硬盘中,那么这个时候内部节点的pointer是不是也表示为文件中的偏移量呢,也就是说内部节点的value可能是内存中的地址,也可能是文件中的偏移吗 [1赞]

     

    作者回复2020-04-08 19:29:40

    你想得很细致!
    对于叶子节点,pos存的就是磁盘文件中数据的位置。这个应该没什么疑问。
    而对于内部节点,其实也一样,pointer存的是磁盘文件中的地址。
    那么当内部节点被加载到内存中时,是否需要修改pointer呢?其实是不需要的。因为所谓的内部节点加载到内存中,我们可以依赖于操作系统的页缓存机制实现,将文件页自动缓存在内存中,而不需要我们手动去写代码。
    当然,如果是数据库中的b+树实现的话,它是自己实现了缓存管理机制,而不是依赖于操作系统的文件页缓存机制。


  • 猫和老鼠 2020-04-08 11:00:17

    感谢陈东哥,从计算机的组成原理到B+树,娓娓而谈,自己受益良多。
    我一个非计算专业的都可以听得很明白。

    其实,各种高级的算法和数据结构,都是在不同的应用场景下,对最基础的数据结构和算法进行的组合。所以说,基本功很重要!

    对于最后的思考题:
    先通过内部节点找到x,继而找到叶子节点对应的元素,顺序读写对于硬盘来讲效率并不低,所以顺序遍历叶子节点找到y结束检索。

    之所以硬盘顺序读写效率不低,是因为数据从硬盘读取到内存的时候是按块读取的,在内存中检索的时候可以复用读取的块内容。

    我之前读资料看到,cpu缓存的局部性原理,【对于硬盘的按块读取,这个算不算局部性原理呀?】
    [1赞]

     

    作者回复2020-04-08 12:20:01

    是的。相信你看完加餐和这一篇以后,会发现许多高级数据结构就是基础篇的灵活组合应用。这样一步一步学习,我相信能帮助你更轻松和扎实地掌握相关知识。
    关于思考题,你提到了很重要的一点:磁盘顺序访问效率很高。这其实和内存局部性原理的本质是一致的。
    不过,b+树的叶子节点并不是在磁盘上连续存储的,由于它会不停分裂和合并,因此在物理存储上是零散的。(下一节课你会看到磁盘的局部性原理)。
    b+树之所以范围查找采用顺序遍历,是因为它要将每个叶子节点依次读入内存处理。那既然遍历每个叶子节点是无法避免的,那我们就不需要额外计算一次y在哪个叶子节点了。
    而内存中的有序数组不一样,它能将内存中连续数据成片拷贝出来,这会比遍历每个数组元素快很多。因此有序数组可以用两次二分查找定位x和y。


  • pedro 2020-04-08 10:02:36

    问题: 先找到 x 然后遍历找到 y,原因大概是涉及磁盘操作,顺序 io 的速度远大于随机 io,因此如果找 y 也使用二分搜索的话,io 成本高,消耗的时间大于顺利遍历。 [1赞]

     

    作者回复2020-04-08 12:09:39

    你提到了很重要的一个事情。磁盘的顺序io效率更高,这其实和内存局部性原理本质是一样的。不过b+树的每个叶子节点在磁盘上并不是顺序的,它们由于不停分裂和合并,其实在物理空间上是零散的。因此,这个不是b+树使用遍历的理由。(下节课你会看到怎么利用磁盘连续性加速)
    遍历的原因是在于范围查找需要将符合条件的叶子节点一个一个读入内存处理,既然遍历是无法避免的,那么就不如在遍历的时候判断是否找到了y,而不是需要额外二分查找一次y所在的叶子节点。


  • 范闲 2020-04-08 08:47:08

    为什么要有B+ tree
    1.数据容量过大的时候,内存无法一次性加载
    2.内存的读写速度比磁盘有数量级上的优势,所以不能将数据全部放入磁盘(速度慢),也不能全部放入内存(资源昂贵)
    B+:索引和数据分离,三层数结构。索引存入内存提高速度,数据存入磁盘提高存储容量。
    数据架构:树+双向链表(树提供了二分查找的能力,双向链表提供了范围检锁的能力)

    课后题:
    1.先利用二分查找确定start的位置
    2.然后向右测走step(y-x)步(如果每组叶子节点还记录了这组长度,实际更容易理解),至此确定了x-y的范围,可以读取对应的block,获得最终数据。 [1赞]

     

    作者回复2020-04-08 09:16:28

    你的总结很详细!相信这篇文章已经部分解决了你之前关于“数据量太大如何处理”的问题。
    此外,关于课后讨论题,的确我们不需要走step(y-x)步,因为每个叶子节点可以直接判断自己存的最大一个元素是什么(数组尾部元素),因此,可以通过对比y和这个元素的值,来决定是否需要读取下一个叶子节点。


  • 无形 2020-04-08 07:01:49

    先找到x所在叶子节点,叶子节点数据二分查找找到x,然后向右遍历直到不在x和y区间内
    感谢老师的分享,又学到了好多,我之前写的就只是有序数组二分查找,是时候好好改造了 [1赞]

     

    作者回复2020-04-08 08:35:18

    答案正确。你可以再对比思考一下,为什么第二讲中的课后问题,我们对于数组的范围查找可以使用两次二分查找,但是在b+树中,却是二分查找(类似)+遍历?
    此外,顺便多说一点,这一篇文章我其实讲了三点:
    1.磁盘特性
    2.索引与数据分离设计
    3.b+树
    希望对你有帮助


  • Lock 2020-04-09 01:56:12

    记得mysql如果是联合索引,非叶子节点其实也存储了部分数据列信息,所以写sql的时候只select需要的列效率会更高一点,select *的话,如果当前用的是二级索引,会有一次回表操作再定位到一级索引上,一级索引的叶子节点在拿到完整数据 ,不知道有没有理解错

     

    作者回复2020-04-09 10:38:15

    b+树的联合索引,首先它是b+树,因此内部节点其实也不存具体数据,不过这个时候,内部节点不是一个简单数组,而是一个多列数组。因此,可能你说的“存储部分列的信息”指的是这个吧?


  • gogo 2020-04-08 17:27:24

    东哥讲的很好,评论区的同学也很认真,期待您更多这样的文章!

     

    作者回复2020-04-08 19:50:20

    下一篇继续


  • 峰 2020-04-08 12:42:21

    看到大家都倾向于说一次查找,然后条件遍历,出于的考虑是遍历是不可避免的。遍历虽然不可避免,但遍历每条数据的判断是可以避免的,所以这里取舍的点在于对每条数据判断和多一次查找,后者可能带来更大的io开销,而且tp场景数据量也不多,不会遍历太多块,最后就是传统tp数据库查询瓶颈在io延时而不是吞吐更不是cpu多几次条件判断上。

     

    作者回复2020-04-08 13:25:52

    你补充了很重要的一点:一次IO代价远远大于内存中的多次条件判断。这也是我们文中说的尽可能减少磁盘访问次数的原则。寻找一次y所在的位置,即便内部节点都在内存中,但要到磁盘中的叶子节点中查找依然会带来一次IO,这个代价是可以避免的。


  • 一步 2020-04-08 12:00:10

    对于 B+树的插入和删除,第一步是不是应该是 先通过二分查找找到需要插入或删除的位置,然后在进行对应的操作

     

    作者回复2020-04-08 12:21:49

    对的。和二叉树的插入和删除一样,都是需要先查找到元素位置。由于篇幅限制,我就没有在文章中详细写出来。相信有了前面的基础,你能很好地解决这个问题。如果还有疑问,可以留言讨论。


  • 牛牛 2020-04-08 09:38:42

    B+树
    1. 只有叶子节点存储数据
    2. 一个节点上存储的是一组数据, 数组存储
    3. 同一层的节点之间用双向链表串在一起
    这样的话、我觉得范围查询时、可以先找到 min 所在的叶子节点位置、再找到max所在的叶子节点位置、min和max的查询效率很高、再利用同一层间的双向链表应该可以很快的找到所有元素 ?

    ----------
    我也不知道对不对, 若有不对的地方、希望老师指正、别误导看到的同学~~~

     

    作者回复2020-04-08 11:34:43

    讨论区就是各种思想碰撞的地方,说出你的想法和疑惑,不仅能帮助自己理解得更清楚,也能帮助其他同学去对比和思考。
    你的这个方案是分别找到min和max,然后用链表找出来所有元素。那你可以想一个细节,就是范围查找要将所有符合条件的元素返回。那么,所有符合条件的元素要怎么复制返回呢?
    在b+树中,即使我们知道了min和max所在的叶子节点,我们要获得所有符合条件的元素,也必须从min开始,沿着链表,将叶子节点一个一个读入内存进行处理。因此,既然遍历叶子节点的这一步无法避免,那么其实就不需要额外再计算一次max所在的叶子节点了。
    而为什么有序数组可以用两次二分查找呢?是因为它找到了min和max以后,可以将中间连续数据进行成片的拷贝处理,效率会比一个元素一个元素遍历更高。


  • 夜空中最亮的星(华仔) 2020-04-08 08:37:53

    今天的课需要听2遍

     

    作者回复2020-04-08 08:51:19

    这是个好的学习习惯!你会发现,这篇写b+树的文章内容可能和你之前学习过的不一样。
    我会从磁盘特性出发,结合索引与数据分离的设计思想和你解释b+树的来龙去脉。
    学习b+树不是目的,而是一个学习“磁盘上的数据和索引应该如何处理”的过程。毕竟大数据时代,数据的存储和检索往往都要和磁盘打交道,数据库,日志系统,搜索引擎等都要解决这个问题。


  • Mq 2020-04-08 07:55:20

    先找大于等于x的元素,然后遍历元素判断是否大于y如果大于就终止

     

    作者回复2020-04-08 08:37:42

    是的!找到x的过程,是树形结构查找(类似二分查找),找到y的过程,是从x开始遍历。我觉得你可以再深入对比思考一下了,为什么第二讲中,对于数组的范围查找,我们可以使用两次二分查找,但是b+树就是一次二分+遍历了?

你可能感兴趣的:(搜索推荐引擎,算法与数据结构,数据结构,数据库,b树)