字典,又称为符号表、关联数组或映射,是一种用于保存键值对的抽象数据结构。
在字典中,一个键可以和一个值进行关联(或者说将键映射为值),这些关联的键和值就称之为键值对。
字段中的每个键都是独一无二的,程序可以在字典中根据键查找与之关联的值,或者通过键来更新值,又或者根据键来删除整个键值对,等等。
字典作为一种数据结构内置在很多高级编程语言中,但Redis所使用的C语言并没有内置这种数据结构,因此Redis构建了自己的字典实现。
字典在Redis中的应用十分广泛,比如Redis的数据库就是使用字典来作为底层的实现,对于键的增、删、改、查操作也是构建在对字典的操作之上。
举个例子:当我们执行命令:
reids> Set msg "heelo world"
在数据库中创建一个键为“msg”,值为“hello world”的健值对时,这个键值对就是保存在代表数据库字典里面的。
除了用来表示数据库之外,字典还是哈希键的底层实现之一,当一个哈希键包含的键值对比较多,又或者键值对中的元素都比较长的字符串时,Redis就会使用字典作为哈希键的底层实现。
举个例子,website是一个包含10086个键值对的哈希键,这个哈希键的键都是一些数据库的名字,而键的值就是数据库的主页网址:
redis>HLEN website
(integer)10086
redis>HGETALL website
1) "Redis"
2) "Redis.io"
3) "MariaDB"
4) "MariaDB.org"
5) "MongoDB"
6) "MongoDB.org"
website键的底层实现就是一个字典,字典中包含了10086个键值对,例如:
除了用来实现数据库和哈希键之外,Redis的不少功能也用到了字典。
redis的字典使用哈希表作为底层实现,一个哈希表里面可以有很多个哈希表节点,而每个哈希表节点就保存了字典中的一个键值对。
Redis字典所使用的哈希表由dict.h/dictht结构定义:
/* This is our hash table structure. Every dictionary has two of this as we
* implement incremental rehashing, for the old to the new table. */
/*
* 哈希表
*
* 每个字典都使用两个哈希表,从而实现渐进式 rehash 。
*/
typedef struct dictht {
// 哈希表数组
dictEntry **table;
// 哈希表大小
unsigned long size;
// 哈希表大小掩码,用于计算索引值
// 总是等于 size - 1
unsigned long sizemask;
// 该哈希表已有节点的数量
unsigned long used;
} dictht;
table属性是一个数组,数组中的每个元素都是一个指向dict.h/dictEntry结构的指针,每个dictEntry结构保存着一个键值对。size属性记录了哈希表的大小,也即是table数组的大小,而used属性则记录了哈希表目前已有节点(键值对)的数量。sizemask属性的值总是等于size-1,这个属性和哈希值一起决定一个键应该被放到table数组的哪个索引上面。
一个空的哈希表
哈希表节点使用dictEntry结构表示,每个dictEntry结构都保存着一个键值对:
/*
* 哈希表节点
*/
typedef struct dictEntry {
// 键
void *key;
// 值
union {
void *val;
uint64_t u64;
int64_t s64;
} v;
// 指向下个哈希表节点,形成链表
struct dictEntry *next;
} dictEntry;
key属性保存着键值对中的键,而v属性则保存着键值对中的值,其中键值对的值可以是一个指针,或者是一个uint64_t整数,又或者是一个int64_t整数。
next属性是指向另一个哈希表节点的指针,这个指针可以将多个哈希值相同的键值对连接在一起,以此来解决键冲突的问题。
举个例子:下图就展示了如何通过next指针,将两个索引值相同的键k1和k0连接在一起。
/*
* 字典
*/
typedef struct dict {
// 类型特定函数
dictType *type;
// 私有数据
void *privdata;
// 哈希表
dictht ht[2];
// rehash 索引
// 当 rehash 不在进行时,值为 -1
int rehashidx; /* rehashing not in progress if rehashidx == -1 */
// 目前正在运行的安全迭代器的数量
int iterators; /* number of iterators currently running */
} dict;
type属性和privdata属性是针对不同类型的键值对,为创建多态字典而设置的:
/*
* 字典类型特定函数
*/
typedef struct dictType {
// 计算哈希值的函数
unsigned int (*hashFunction)(const void *key);
// 复制键的函数
void *(*keyDup)(void *privdata, const void *key);
// 复制值的函数
void *(*valDup)(void *privdata, const void *obj);
// 对比键的函数
int (*keyCompare)(void *privdata, const void *key1, const void *key2);
// 销毁键的函数
void (*keyDestructor)(void *privdata, void *key);
// 销毁值的函数
void (*valDestructor)(void *privdata, void *obj);
} dictType;
ht属性是一个包含两个项的数组,数组中的每个项都是一个dictht哈希表,一般情况下,字典只使用ht[0]哈希表,ht[1]哈希表只会在对ht[0]哈希表进行rehash时使用。
除了ht[1]之外,另一个和rehash有关的属性就是rehashidx,它记录了rehash目前的进度,如果目前没有在进行rehash,那么它的值为-1。
下图为普通状态(没有进行rehash)的字典:
当要将一个新的键值对添加到字典里面时,程序需要先根据键值对的键计算出哈希值和索引值,然后在根据索引值,将包含新键值对的哈希表节点放到哈希表数组的指定索引上面。
Redis计算哈希值和索引值的方法如下:
使用字典设置的哈希函数,计算键key的哈希值:
hash=dict->type->hashFunction(key);
使用哈希表的sizemask属性和哈希值,计算出索引值
根据情况不同,ht[x]可以是ht[0]或者ht[1]
index=hash&dict->ht[x].sizemask;
举个例子对于下图所示的字典来说,如果我们要将一个键值对k0和v0添加到字典里面,那么程序会先使用语句:
hash=dict->type->hashFunction(k0);
计算出键k0的哈希值
假设计算得出的哈希值为8,那么程序会继续使用语句:
index=hash&dict->ht[0].sizemask=8&3=0;
计算出键k0的索引值0,这表示包含键值对k0和v0的节点应该被放置到哈希表数组的索引0为止上,如下图所示:
当字典被用作数据库的底层实现,或者哈希健的底层实现时,Redis使用MurmurHash2算法来计算键的哈希值。
MurmurHash算法最初由Austin Appleby于2008年发明,这种算法的优点在于,即使输入的键是有规律的,算法仍能给出一个很好的随机分布性,并且算法的计算速度也非常快。
当有两个或以上数量的键被分配到了哈希表数组的同一个索引上面时,我们称这些键发生了冲突。
Redis的哈希表使用链地址法来解决键冲突,每个哈希表节点都有一个next指针,多个哈希表接电可以同next指针构成一个单向链表,呗分配到同一个索引上的多个节点可以用这个单向链表连接起来,这就解决了键冲突的问题。
举个例子,假设程序要将键值对k2和v2添加到下图所示的哈希表里面,并且计算得出k2的索引值为2,那么键k1和和k2将产生冲突,而解决冲突的办法就是使用next指针将键k2和k1所载的节点连接起来.
随着操作的不断执行,哈希表保存的键值对会逐渐地增多或者减少,为了让哈希表的负载因子维持在一个合理的范围之内,当哈希表保存的键值对数量太多或者太少时,程序需要对哈希表的大小进行响应的扩展或者收缩。
扩展和收缩哈希表的工作可以通过执行rehash操作来完成,Redis对字典的哈希表执行rehash的步骤如下:
举个例子,假设程序要对下图所示的字典ht[0]进行扩展操作,那么程序将执行以下步骤:
1.ht[0].used当前的值为4,4*2=8,而8(2 3次方幂)恰好是第一个大于等于4的2的n次方,所以程序会将ht[1]哈希表的大小设置为8。 下图展示了ht[1]在分配空间之后,字典的样子。
2.将ht[0]包含的四个键值对都rehash到ht[1],如下图所示.
3.释放ht[0],并将ht[1]设置为ht[0],然后为ht[1]分配一个空白哈希表,如下图所示。至此,对哈希表的扩展操作执行完毕,程序成功将哈希表的大小从原来的4改成了8
当以下条件中的任意一个被满足时,程序会自动开始对哈希表执行扩展操作:
1.服务器目前没有在执行BGSAVE命令或者BGREWRITEAOF命令,并且哈希表的负载因子大于等于1.
2.服务器目前正在执行BGSAVE命令或者BGREWRITEAOF命令,并且哈希表的负载因子大于等于5
其中哈希表的负载因子可以通过公式:
负载因子=哈希表已保存节点数量/哈希表大小
load_factor=ht[0].used/ht[0].size
计算得出。
例如,对于一个大小为4,包含4个键值对的哈希表来说,这个哈希表的负载因子为:
load_factor=4/4=1
又例如,对于一个大小为512,包含256个键值对的哈希表来说,这个哈希表的负载因子为:
load_factor=256/512=0.5
根据BGSAVE命令或BGREWRITEAOF命令是否正在执行,服务器执行扩展操作所需的负载因子并不相同,这是因为在执行BGSAVE命令或BGREWRITEAOF命令的过程中,Redis需要创建当前服务器进程的子进程,而大多数操作系统都采用写时复制技术来优化子进程的使用效率,所以在子进程存在期间,服务器会提高执行扩展操作所需的负载因子,从而尽可能避免在子进程存在期间进行哈希表的扩展操作,这可以避免不必要的内存写入操作,最大限度地节约内存。
另一方面,当哈希表的负载因子小于0.1时,程序自动开始对哈希表执行收缩操作。
扩展或收缩哈希表需要将ht[0]里面的所有键值对rehas到ht[1]里面,但是,这个rehash动作并不是一次性、集中式完成的,而是分多次、渐进式地完成的。
这样做的原因在于,如果ht[0]里只保存着4个键值对,那么服务器可以在瞬间就将这些键值对全部rehash到ht[1],但是,如果哈希表里面保存的键值对数量不是4个,而是4百万、4千万甚至4亿个键值对,那么要一次性将这些键值对全部rehash到ht[1]的话,庞大的计算量可能会导致服务器在一段时间内停止服务。
因此,为了避免rehash对服务器性能造成影响,服务器不是一次性将ht[0]里面的所有键值对全部rehash到ht[1],而是分多次、渐进式地将ht[0]里面的键值对慢慢地rehash到ht[1]。
以下是哈希表渐进式rehash的详细步骤
1.为ht[1]分配空间,让字典同时持有ht[0]和ht[1]两个哈希表。
2.在字典中维持一个索引计数器变量 rehashidx,并将它的值设置为0,表示rehash工作正式开始。
3.在rehash进行期间,每次对字典执行添加、删除、查找或者更新操作时,程序除了执行指定的操作以外,还会顺带将ht[0]哈希表在rehashidx索引上的所有键值对rehash到ht[1],当rehash工作完成之后,程序将rehashidx属性的值增加1。
4.随着字典操作的不断执行,最终在某个时间点上,ht[0]的所有键值对都会被rehash至ht[1],这时程序将rehashidx属性的值设为-1,表示rehash操作已经完成。
渐进式rehash的好处在于它采用分而治之的方式,将rehash键值对所需的计算工作均摊到对字典的每个添加、删除、查找和更新操作上,从而避免了集中式rehash而带来的庞大计算量。
准备rehash:
rehash索引0上的键值对:
rehash索引2上的键值对
rehash索引3上的键值对
rehash完毕
因为在进行渐进式rehash的过程中,字典会同时使用ht[0]和ht[1]两个哈希表,所以在渐进式rehash进行期间,字典的删除、查找、更新、等操作会在两个哈希表上进行,例如,要在字典里面查找一个键的话,程序会先在ht[0]里面进行查找,如果没有找到的话,就会继续到ht[1]里面进行查找,诸如此类。
另外,在渐进式rehash执行期间,新添加到字典中的键值对一律会被保存到ht[1]里面,而ht[0]则不会进行任何添加操作,这一措施保证了ht[0]包含的键值对数量会只见减不增,并随着rehash操作的执行而最终变成空表。