Redis协议与异步方式

redis网络层

Redis协议与异步方式_第1张图片

哪条管道先构成一个完整的数据包,谁先得到处理

1 一个数据包可能由多个读事件才能组装成。

2 管道就是连接

3 人推车相当于网络线程

Redis协议与异步方式_第2张图片

reactor并发处理连接,线程串行处理命令;

单reactor,一个线程同时处理命令+网路IO   (mysql则是一个连接一个线程处理)

Redis协议与异步方式_第3张图片

 redis pipeline   

redis pipeline 是一个客户端提供的,而不是服务端提供的;pipeline 不具备事务性

Redis协议与异步方式_第4张图片

 pipeline就是多个请求依次发送出去,然后依次接收回包

目的:节约网络传输时间

对于request操作,只是将数据写到fd对应的写缓冲区,时间非常快,真正耗时操作在读取 response;

send这是将数据写到写缓冲区,真正的发送数据是由协议栈自己完成的。

redis事务

什么是事务?

        1 用户定义的一系列的数据库操作,这些操作视为一个完整的逻辑处理工作单元。

        2 要么全部都执行,要么全部不执行,是不可分割的工作单元。

在什么情况下探讨事务?

        有并发连接的时候

MULTI 开启事务,事务执行过程中,单个命令是入队列操作,直到调用 EXEC 才会一起执行;

redis事务是乐观锁实现,所以失败需要重试,增加业务逻辑的复杂度。

MULTI

开启事务          mysql ---- ( begin; start transaction; )

redis在开启事务之后会把所有的命令丢到一个任务队列里面,并不是立即执行。

EXEC

提交事务          mysql ---- commit

挨个执行任务队列里面的命令

DISCARD

取消事务          mysql --- rollback

WATCH

检测key的变动,若在事务执行中,key变动则取消事务;在事务开启前调用,乐观锁实现(cas); 若被取消则事务返回 nil ;

应用          (通过事务实现原子操作)

事务实现 zpop

WATCH zset
element = ZRANGE zset 0 0
MULTI
ZREM zset element
EXEC

事务实现 加倍操作

WATCH score:10001
val = GET score:10001
MULTI
SET score:10001 val*2
EXEC

lua 脚本

lua 脚本实现原子性;

redis中加载了一个lua虚拟机;用来执行redis lua脚本;redis lua 脚本的执行是原子性的;当某个 脚本正在执行的时候,不会有其他命令或者脚本被执行;

lua脚本当中的命令会直接修改数据状态;

注意:如果项目中使用了lua脚本,不需要使用上面的事务命令;

# 从文件中读取 lua脚本内容
cat test1.lua | redis-cli script load --pipe
# 加载 lua脚本字符串 生成 sha1
> script load 'local val = KEYS[1]; return val'
"b8059ba43af6ffe8bed3db65bac35d452f8115d8"        //lua脚本会生成一个散列值,以后用这个散列值取代脚本
# 检查脚本缓存中,是否有该 sha1 散列值的lua脚本
> script exists "b8059ba43af6ffe8bed3db65bac35d452f8115d8"
1) (integer) 1
# 清除所有脚本缓存
> script flush
OK
# 如果当前脚本运行时间过长,可以通过 script kill 杀死当前运行的脚本
> script kill
(error) NOTBUSY No scripts in execution right now.

EVAL

# 测试使用

EVAL script numkeys key [key ...] arg [arg ...]

redis是单线程处理数据,这个命令是将Lua脚本作为一个数据包发送过去,在执行这个数据包的过程当中不可能去执行其他的数据包,所以具备原子性。

EVALSHA

# 线上使用

EVALSHA sha1 numkeys key [key ...] arg [arg ...]

mysql存储过程不具备事务性 需要显示的调用begin commit

redis lua脚本 具备原子性

应用

# 1: 项目启动时,建立redis连接并验证后,先加载所有项目中使用的lua脚本(script load); # 2: 项目中若需要热更新,通过redis-cli script flush;然后可以通过订阅发布功能通知所有服 务器重新加载lua脚本;

# 3:若项目中lua脚本发生阻塞,可通过script kill暂停当前阻塞脚本的执行;

ACID特性分析

A 原子性;事务是一个不可分割的工作单位,事务中的操作要么全部成功,要么全部失败;redis 不支持回滚;即使事务队列中的某个命令在执行期间出现了错误,整个事务也会继续执行下去,直到将事务队列中的所有命令都执行完毕为止。

C 一致性;事务使数据库从一个一致性状态到另外一个一致性状态;这里的一致性是指预期的一致性而不是异常后的一致性;所以redis也不满足;这个争议很大: redis 能确保事务执行前后的数据的完整约束;但是并不满足业务功能上的一致性;比如转账功能,一个扣钱一个加钱;可能出现扣钱执行错误,加钱执行正确,那么最终还是会加钱成功;系统凭空多了钱;

I 隔离性;事务的操作不被其他用户操作所打断;redis命令执行是单线程的,redis事务天然具备隔离性;    lua脚本完全隔离         watch去取消事务

D 持久性;redis只有在 aof 持久化策略的时候,并且需要在 redis.conf 中 appendfsync=always 才具备持久性;实际项目中几乎不会使用 aof 持久化策略;

面试时候回答:

lua脚本满足原子性和隔离性,一致性和持久性不满足。

redis 发布订阅

为了支持消息的多播机制,redis引入了发布订阅模块;disque 消息队列

# 订阅频道
subscribe 频道
# 订阅模式频道
psubscribe 频道
# 取消订阅频道
unsubscribe 频道
# 取消订阅模式频道
punsubscribe 频道
# 发布具体频道或模式频道的内容
publish 频道 内容
# 客户端收到具体频道内容
message 具体频道 内容
# 客户端收到模式频道内容
pmessage 模式频道 具体频道 内容

应用

发布订阅功能一般要区别命令连接重新开启一个连接;因为命令连接严格遵循请求回应模式;而 pubsub能收到redis主动推送的内容;所以实际项目中如果支持pubsub的话,需要另开一条连接用于处理发布订阅;

Redis协议与异步方式_第5张图片

缺点 

发布订阅的生产者传递过来一个消息,redis会直接找到相应的消费者并传递过去;假如没有消费 者,消息直接丢弃;假如开始有2个消费者,一个消费者突然挂掉了,另外一个消费者依然能收到 消息,但是如果刚挂掉的消费者重新连上后,在断开连接期间的消息对于该消费者来说彻底丢失 了;

另外,redis停机重启,pubsub的消息是不会持久化的,所有的消息被直接丢弃;

应用

subscribe news.it news.showbiz news.car

psubscribe news.*

publish new.showbiz 'king kiss darren'

redis异步连接

Redis协议与异步方式_第6张图片

协议实现的第一步需要知道如何界定数据包: 

1. 长度 + 二进制流

2. 二进制流 + 特殊分隔符

异步连接

同步连接方案采用阻塞io来实现;优点是代码书写是同步的,业务逻辑没有割裂;缺点是阻塞当前线程,直至redis返回结果;通常用多个线程来实现线程池来解决效率问题;

异步连接方案采用非阻塞io来实现;优点是没有阻塞当前线程,redis没有返回,依然可以往redis 发送命令;缺点是代码书写是异步的(回调函数),业务逻辑割裂,可以通过协程解决 (openresty,skynet);配合redis6.0以后的io多线程(前提是有大量并发请求),异步连接 池,能更好解决应用层的数据访问性能;

redis6.0 io多线程

redis6.0版本后添加的 io多线程主要解决redis协议的压缩以及解压缩的耗时问题;一般项目中不需要开启;如果有大量并发请求,且返回数据包一般比较大的场景才有它的用武之地;

原理

int n = read(fd, buff, size);
msg = decode(buff, size); // redis io-threads
data = do_command(msg);
bin = encode(data, sz); // io-threads
send(fd, bin, sz1);

开启

# 在 redis.conf 中
# if you have a four cores boxes, try to use 2 or 3 I/O threads, if you have
a 8 cores, try to use 6 threads.
io-threads 4
# 默认只开启 encode 也就是redis发送给客户端的协议压缩工作;也可开启io-threads-do-reads
yes来实现 decode;
# 一般发送给redis的命令数据包都比较少,所以不需要开启 decode 功能;
# io-threads-do-reads no

实现方案

hiredis + libevent

/* Context for a connection to Redis */
typedef struct redisContext {
    const redisContextFuncs *funcs; /* Function table */
    int err; /* Error flags, 0 when there is no error */
    char errstr[128]; /* String representation of error when applicable */
    redisFD fd;
    int flags;
    char *obuf; /* Write buffer */
    redisReader *reader; /* Protocol reader */
    enum redisConnectionType connection_type;
    struct timeval *connect_timeout;
    struct timeval *command_timeout;
    struct {
        char *host;
        char *source_addr;
        int port;
    } tcp;
    struct {
        char *path;
    } unix_sock;
    /* For non-blocking connect */
    struct sockadr *saddr;
    size_t addrlen;
    /* Optional data and corresponding destructor users can use to provide
    * context to a given redisContext. Not used by hiredis. */
    void *privdata;
    void (*free_privdata)(void *);
    /* Internal context pointer presently used by hiredis to manage
    * SSL connections. */
    void *privctx;
    /* An optional RESP3 PUSH handler */
    redisPushFn *push_cb;
} redisContext;
static int redisLibeventAttach(redisAsyncContext *ac, struct event_base
*base) {
    redisContext *c = &(ac->c);
    redisLibeventEvents *e;
    /* Nothing should be attached when something is already attached */
    if (ac->ev.data != NULL)
        return REDIS_ERR;
    /* Create container for context and r/w events */
    e = (redisLibeventEvents*)hi_calloc(1, sizeof(*e));
    if (e == NULL)
        return REDIS_ERR;
    e->context = ac;
    /* Register functions to start/stop listening for events */
    ac->ev.addRead = redisLibeventAddRead;
    ac->ev.delRead = redisLibeventDelRead;
    ac->ev.addWrite = redisLibeventAddWrite;
    ac->ev.delWrite = redisLibeventDelWrite;
    ac->ev.cleanup = redisLibeventCleanup;
    ac->ev.scheduleTimer = redisLibeventSetTimeout;
    ac->ev.data = e;
    /* Initialize and install read/write events */
    e->ev = event_new(base, c->fd, EV_READ | EV_WRITE, redisLibeventHandler,e);
        e->base = base;
        return REDIS_OK;
}

原理

hiredis 提供异步连接方式,提供可以替换网络检测的接口;

关键替换 addRead , delRead , addWrite , delWrite , cleanup , scheduleTimer ,这几个检测接口;其他io操作,比如 connect , read , write , close 等都交由hiredis来处理;

同时需要提供连接建立成功以及断开连接的回调;

用户可以使用当前项目的网络框架来替换相应的操作;从而实现跟项目网络层兼容的异步连接方 案;

你可能感兴趣的:(redis,缓存,数据库,1024程序员节)