摘录些nosqlfans上看的资源(http://blog.nosqlfan.com/html/3537.html),用了一年了,只会安装、启动和get set,真的不好意思说会redis
REmote DIctionary Server(Redis) 是一个由Salvatore Sanfilippo写的key-value存储系统,他为VMWare 公司工作,主要就是进行Redis的开发。 Blizzard (暴雪)使用8节点的Redis来为 WoW (魔兽争霸)提供Avatar服务。
一、redis启动初探
http://pauladamsmith.com/blog/2011/03/redis_get_set.html 原文
- redis 启动图
- redisServer是main函数启动的redis实例,包含属性:
-general server state
-statistics
-configuration from config file
-replication
-sort parameters
-virtual memory config, state, I/O threads, & stats
-zip structure
-event loop helpers ,事件模型默认是epoll on Linux, kqueue on BSD, 若没有开启则使用select方式
-pub/sub
append-only file (AOF) ,(追加式的操作日志记录,appendonly yes 打开日志),作用和rdb文件类似,用于保存上次redis 会话数据
- redis请求处理模型:
Redis starts up by initializing a global server state variable, and reading in an optional configuration file to override any defaults. It sets up a global command table that connects command names with the actual function that implements the command. It creates an event loop using the best available underlying system library for event/readiness notification, and registers a handler function for when there is a new client socket connection to accept. It also registers a periodic (i.e., time-based) event handler for dealing with cron-like tasks like key expiry that need to be addressed outside the regular client-handling path. Once a client has connected, a function is registered on the event loop for being notified when the client has data to be read (i.e., a query for a command). The client’s query is parsed and a command handler is called to execute the command and write the response back to the client (the writing of data to the client is also handled by the event-notification loop). The client object is reset and server is ready to process more queries.
二、 使用gdb分析get set command
GDB是GNU开源组织发布的一个强大的UNIX下的程序调试工具。 http://pauladamsmith.com/blog/2011/03/redis_get_set.html 介绍了使用gdb加断点跟踪GET和SET
redis-cli 使用 redisContext封装相关连接状态,hiredis.h(deps目录)定义了 redisContext, obuf 字段存放redis-cli输入的原生命令
redis_client.get('users:1234') 和 命令行指令 get users:1234 一样,会发送 *2\r\n$3\r\nget\r\n$10\r\nusers:1234\r\n 字节串到服务器
服务器端redis-server 为每个客户端创建buffer,将字节流扩展至buffer中,执行方法readQueryFromClient 接收数据。 然后根据请求方式 lookupCommand(c->argv[0]->ptr),
从command的定义中可找到get方法
struct redisCommand readonlyCommandTable[] = {
{"get",getCommand,2,0,NULL,1,1,1},
getCommand 是getGenericCommand方法的封装,找到对应方法后,执行,从数据库中查找key对应的value:
# db.c:58
robj *lookupKeyReadOrReply(redisClient *c, robj *key, robj *reply) {
robj *o = lookupKeyRead(c->db, key);
if (!o) addReply(c,reply);
return o;
}
redis使用自己的hash table在内存中存储key-value对,在db对象中,dict字段指向当前库的hash值(redis一个实例可以有16个库)
redis调用dictFind方法(dict.c)在数据库的hashtable中查找对应值。
SET流程与此类似,调用dictAdd方法设置key-value对。
三、redis源码分析
(1)redis replication (http://www.hoterran.info/redis_replication)
(2)redis 持久化(http://www.hoterran.info/redis_persistence)
redis有全量(save/bgsave)和增量(aof)的持久化命令。
全量的原理就是遍历里所有的DB,在每个bucket,读取链表的key和value并写入dump.rdb文件(rdb.c 405)。
save命令直接调度rdbSave函数,这会阻塞主线程的工作,通常我们使用bgsave。
sync:当master接收到slave发来的该命令的时候,会执行rdbSaveBackground
增量备份就是aof,原理有点类似redo log。每次执行命令后如出现数据变化,会调用feedAppendOnlyFile,把数据写到server.aofbuf里。aof最大的问题就是随着时间append file会变的很大,所以我们需要bgrewriteaof命令重新整理文件,只保留最新的kv数据。
(3)redis rehash(http://www.yiihsia.com/2011/04/redis源码分析-如何rehash/)
rehash有2种工作模式
lazy rehashing:在每次对dict进行操作的时候执行一个slot的rehash
active rehashing:每100ms里面使用1ms时间进行rehash。
什么时候dict做扩容?
在数据插入的时候会调用dictKeyIndex,该方法里会调用_dictExpandIfNeeded,判断dict是否需要rehash,当dict中元素大于桶的个数时,调用dictExpand扩展hash。dictExpand的工作主要是初始化hash表,默认是扩大两倍(并不单纯是桶的两倍),然后赋值给ht[1],然后状态改为rehashing,此时该dict开始rehashing
四、redis基本结构
- 值类型:
二进制安全的 字符串 string
二进制安全的 字符串列表 list of string
二进制安全的 字符串集合 set of string,换言之:它是一组无重复未排序的element。可以把它看成Ruby中的 hash–其key等于element,value都等于’true‘。
有序集合sorted set of string,类似于集合set,但其中每个元素都和一个浮点数score(评分)关联。element根据score排序。可以把它看成Ruby中的 hash–其key等于element,value等于score,但元素总是按score的顺序排列,无需额外的排序操作。
- 键类型:
Redis key值是二进制安全的,这意味着可以用任何二进制序列作为key值,从形如”foo”的简单字符串到一个JPEG文件的内容都可以。空字符串也是有效key值。
- 列表:
LPUSH 命令可向list的左边(头部)添加一个新元素,而RPUSH命令可向list的右边(尾部)添加一个新元素。最后LRANGE 命令可从list中取出一定范围的元素,
如 lrange messages 0 2
- 集合
Redis集合是未排序的集合,其元素是二进制安全的字符串。SADD命令可以向集合添加一个新元素。和sets相关的操作也有许多,比如检测某个元素是否存在,以及实现交集,并集,差集等等。sadd添加 smembers获取所有 sismember 监测是否是成员集合
子交并补等操作
redis 127.0.0.1:6379> SINTER birds mammals
1) "bat"
redis 127.0.0.1:6379> SUNION birds mammals
1) "crow"
2) "bat"
3) "human"
4) "pigeon"
5) "dog"
redis 127.0.0.1:6379> SDIFF birds mammals
1) "crow"
2) "pigeon"
- 有序集合
有序集合 带有关联的score,以及一个类似LRANGE的操作可以返回有序元素,ZRANGE ZREVRANGE 命令 可作用于有序集合 。 有序集合从某种程度上说是SQL世界的索引在Redis中的等价物
zadd hackers 1940 "Alan Kay"
zrange hackers 0 -1
zrevrange hackers 0 -1
zrangebyscore hackers -inf 1950 #获取所有1950年之前出生的人
zremrangebyscore hackers 1940 1960 #删除生日介于1940到1960年之间的黑客。
- Hash类型
Redis能够存储key对多个属性的数据(比如user1.uname user1.passwd)
redis 127.0.0.1:6379> HKEYS student
1) "name"
2) "age"
3) "sex"
redis 127.0.0.1:6379> HVALS student
1) "Ganesh"
2) "30"
3) "Male"
redis 127.0.0.1:6379> HGETALL student
1) "name"
2) "Ganesh"
3) "age"
4) "30"
5) "sex"
6) "Male"
redis 127.0.0.1:6379> HDEL student sex
(integer) 1
redis 127.0.0.1:6379> HGETALL student
1) "name"
2) "Ganesh"
3) "age"
4) "30"
Hash数据结构能够批量修改和获取
redis 127.0.0.1:6379> HMSET kid name Akshi age 2 sex Female
OK
redis 127.0.0.1:6379> HMGET kid name age sex
1) "Akshi"
2) "2"
3) "Female"
更多可参考 redis命令 http://redis.io/commands/