Redis底层数据结构之压缩列表（ziplist）

记录一下读《redis设计与实现》，所学到和所想到的

*压缩列表需要重点掌握的

①压缩列表是一种为节约内存而开发的顺序性数据结构

②压缩列表被用作列表键和哈希键的底层实现。有序集合也采用了压缩列表。

③压缩列表可以包含多个节点，每个节点可以保存一个字节数组或者整数值

④添加新节点到压缩列表或者从压缩列表中删除几点，可能会引发连锁更新操作，但这种操作出现几率不高。这种操作最坏的时间复杂度为On^2。

 

一、压缩列表概述

压缩列表是列表键和哈希键的底层实现之一。而经过测试，在数量比较少的时候，有序集合也会采用ziplist来存储。

①在一个列表建只包括少量列表项，而且每个列表项要么是小的整数值，要么是比较短的字符串时，redis会使用压缩列表作为列表键的底层实现。

例如

redis>RPUSH 1st 1,3,5 10086,"hello"

(integer) 6

redis> OBJECT ENCODING 1st

"ziplist"

②当一个哈希键只包含少量键值对，并且每个键值对的键和值要么是小整数值，要么比较短的字符串，redis会使用压缩列表作为哈希键的底层实现

redis>HMSET profile "name" "jack" "age" 28

OK

redis> OBJECT ENCODING profile

"ziplist"

 

二、压缩列表构成

压缩列表是Redis为了节约内存而开发，是由一系列特殊编码的连续内存块组成的顺序型数据结构。

一个压缩列表可以包含任意多个节点（entry），每个节点可以保存一个字节数组、或者一个整数值。

下图展示了压缩列表的各个组成部分。

压缩列表的各个组成部分

压缩列表各个组成部分的详细说明：

属性	类型	长度	用途
zlbytes	uint32_t	4字节	记录整个压缩列表占用的内存字节数：在对压缩列表进行内存重分配，或者计算zlend的位置时使用
zltail	uint32_t	4字节	记录压缩列表表尾节点距离压缩列表的起始地址有多少字节：通过这个偏移量，程序无需遍历整个压缩列表就可以确定表尾节点的地址
zllen	uint16_t	2字节	记录压缩列表包含的节点数量：当这个属性的值小于UINT16_MAX(65536)时，这个属性的值就是压缩列表包含节点的数量；当这个值等于UINT16_MAX(65536)时，节点的真实数量需要遍历整个压缩列表才能计算得出
entryX	列表节点	不定	压缩列表包含的各个节点，节点的长度由节点保存的内容决定
zlend	uint8_t	1字节	特殊值0xFF（十进制255），用于标记压缩列表的末端

下面是包含三个节点的压缩列表示例：

包含三个节点的压缩列表

上图中：

1. zlbytes：0x50 = 80，表示压缩列表总长为80字节。
2. zltail：0x3c = 60，可以计算表尾节点entry3的地址。
3. zllen：0x3 = 3，表示压缩列表包含3个节点。

2. 压缩列表节点的构成

每个压缩列表节点可以保存一个字节数组、或者一个整数值。

字节数组可以是以下三种长度的其中一种：

1. 长度小于等于63（2^6 -1 ）字节的字节数组。
2. 长度小于等于16383（2^14 -1 ）字节的字节数组。
3. 长度小于等于4294967295（2^32 -1 ）字节的字节数组。

整数值可以是以下六种长度的其中一种：

1. 4位长，介于0至12之间的无符号数。
2. 1字节长的有符号整数。
3. 3字节长的有符号整数。
4. int16_t类型整数。
5. int32_t类型整数。
6. int64_t类型整数。

每个压缩列表节点都由previous_entry_length、encoding、content三个部分组成。如下图所示。

压缩列表节点的各个组成部分

1. previous_entry_length

   previous_entry_length属性以字节为单位，记录了压缩列表中前一个节点的长度。

   previous_entry_length属性的长度可以是1字节或5字节：

   1. 如果前一节点的长度小于254字节，那么previous_entry_length属性的长度为1字节：前一节点的长度保存在这一个字节里面。
   2. 如果前一节点的长度大于等于254字节，那么previous_entry_length属性的长度为5字节：其中属性的第一字节会被设置为0xFE（十进制254），之后的四个字节用于保存前一节点的长度。

   通过指针运算，可以根据当前节点的起始地址计算出前一个节点的起始地址。

2. encoding

   节点的encoding属性记录了节点的content属性所保存数据的类型和长度：

   1. 一字节、两字节或者五字节长，值的最高位为00、01或者10的是字节数组编码：这种编码表示节点的content属性保存着字节数组，数组的长度由编码除去最高两位之后的其他位记录。
   2. 一字节长，值的最高位以11开头的是整数编码：这种编码表示节点的content属性保存着整数值，整数值的类型和长度由编码除去最高两位之后的其他位记录。

   下图是encoding格式，下划线"_"表示留空。

   

   encoding格式

3. content

   节点的content属性负责保存节点的值，节点值可以是一个字节数组或者整数，值的类型和长度由节点的encoding属性决定。

   下面是一个保存着字节数组"hello world"的节点。

   

   保存字节数组hello world的节点

三. 连锁更新

连锁更新：

1. 添加新节点时发生。有一个压缩列表，其中的节点e1到eN，长度都介于250字节到253字节之间。如果添加一个长度大于等于254的新节点new到e1之前，那么e1的previous_entry_length属性从原来的1字节扩展为5字节，然后e2的previous_entry_length也会由于e1扩展了也扩展为5字节，依次类推，直到eN。
2. 删除节点时发生。有一个压缩列表，其中的节点排序为big、small、e1、e2、...eN。big节点长度大于等于254字节，small节点长度小于254字节，e1到eN都是大小介于250到253字节的节点。当删除small节点后，为了让e1的previous_entry_length属性可以记录big节点的长度，将扩展e1空间，并引发连锁更新。

连锁更新在最坏情况下需要对压缩列表执行N次空间重分配操作，而每次空间重分配的最坏复杂度为O(N)，所以连锁更新的最坏复杂度为O(N^2)。

尽管连锁更新的的复杂度较高，但它真正造成性能问题的几率是很低的：

1. 首先，压缩列表里要恰好有多个连续的、长度介于250到253字节之间的节点，连锁更新才有可能被引发，在实际中，这种情况并不多见。
2. 其次，即使出现连锁更新，但只要被更新的节点数量不多，就不会对性能造成任何影响：比如说，对三五个节点进行连锁更新是绝对不会影响性能的。

因此，ziplistPush等命令的平均复杂度仅为O(N)，在实际中，可以放心使用这些函数，不必担心连锁更新会影响压缩列表的性能。

四、 压缩列表API

函数	作用	时间复杂度
ziplistNew	创建一个新的压缩列表	O(1)
ziplistPush	创建一个包含给定值的新节点，并将这个新节点添加到压缩列表的表头或者表尾	平均O(N)，最坏O(N^2)
ziplistInsert	将包含给定值的新节点插入到给定节点之后	平均O(N)，最坏O(N^2)
ziplistIndex	返回压缩列表给定索引上的节点	O(N)
ziplistFind	在压缩列表里查找并返回包含了给定值的节点	因为节点的值可能是一个字节数组，所以检查节点值和给定值是否相同的复杂度为O(N)，而查找整个列表的复杂度则为O(N^2)
ziplistNext	返回给定节点的下一个节点	O(1)
ziplistPrev	返回给定节点的前一个节点	O(1)
ziplistGet	获取给定节点所保存的值	O(1)
ziplistDelete	从压缩列表中删除给定的节点	平均O(N)，最坏O(N^2)
ziplistDeleteRange	删除压缩列表在给定索引上的连续多个节点	平均O(N)，最坏O(N^2)
ziplistrawLen	返回压缩列表目前占用的内存字节数	O(1)
ziplistLen	返回压缩列表目前包含的节点数量	节点数量小于65535时为O(1)，大于65535时为O(N)

ziplistPush、ziplistInsert、ziplistDelete、ziplistDeleteRange四个函数都有可能引发连锁更新，所以它们的最坏复杂度都为O(N^2)。

五、为什么连锁更新时间复杂度最坏为O(N^2)？

连锁更新在最坏情况下对压缩列表执行N此空间重分配操作，而每次空间重分配的最坏复杂度为O(N)，所以连锁更新的最坏复杂度为O（N^2）。

这句话我不是很理解，为什么每次空间重分配时间复杂度为O（N）。有懂的大神，希望不吝赐教。