1、异步消息队列
Redis的list(列表)数据结构常用来作异步消息队列使用,用rpush和lpush操作入队列,用lpop和rpop操作出队列,如下图所示:
它可以支持多个生产者和多个消费者并发进出消息,每个消费者拿到的消息都是不同的列表元素,如下图所示:
2、队列空了怎么办
客户端通过队列的pop操作来获取消息,然后进行处理。处理完了再接着获取消息,在进行处理。如此循环,这便是作为队列消费者的客户端的生命周期。
可是如果队列空间了,客户端就会陷入pop的死循环,不停地pop,没有数据,接着再pop,还没有数据。这就是浪费生命的空轮询。空轮询不但拉高了客户端的CPU消耗,Redis的QPS也会被拉高,如果这样空轮询的客户端几十个,Redis的慢查询可能会显著增多。
通常我们使用sleep来解决这个问题,让线程睡一会,睡个1s就可以了。不但客户端的CPU消耗能降下来,Redis的QPS也降下来了。
3、阻塞读
用上面睡眠的办法可以解决问题。但是又有个小问题,那就是睡眠会导致消息的延迟增大。如果只有1个消费者,那么这个延迟就是1s。如果有多个消费者,这个延迟会有所下降,因为每个消费者的睡眠时间会岔开的。
有什么办法能显著降低延迟呢?你当然可以很快想到:那就把睡眠的时间缩短点。这个方法当然可以,不过有没有更好的解决方案呢?当然也有,那就是blpop/brpop。
这两个指令的前缀字符b代表的是blocking,也就是阻塞读。
阻塞读的队列没有数据的时候,会立即进入休眠状态,一旦数据到来,则立刻醒过来。消息的延迟几乎为零。用blpop/brpop替代前面的lpop/rpop,就完美解决了上面的问题。
4、空闲连接自动断开
你以为上面的方案真的很完美吗?先别急着开销,其实它还有个问题需要解决。
什么问题呢?答案是:空闲连接的问题。
如果线程一直阻塞在那里,Redis的客户端连接就成了闲置连接,闲置过久,服务器一般会主动断开连接,减少闲置资源占用。这个时候blpop/brpop会抛出异常。
所以编写客户端消费者的时候要小心,如果捕获到异常,还要重试。
5、延时队列的实现
延时队列可以通过Redis的zset(有序集合)来实现。我们将消息序列化成一个字符串作为zset的value,这个消息的到期处理时间作为score,然后用多个线程轮询zset获取到期的任务处理。多个线程是为了保障可用性,万一挂了一个线程还有其他线程可以继续处理。因为有多个线程,所以需要考虑并发争抢任务,确保任务不会被多次执行。
Redis的zrem方法是多进程多线程争抢任务的关键,它的返回值决定了当前实例有没有抢到任务,因为loop方法可能会被多个线程、多个进程调用,同一个任务可能会被多个进程、多个线程抢到,要通过zrem来决定唯一的属主。
同时,我们要注意一定要对handle_msg进行异常捕获,避免因为个别任务处理问题导致循环异常退出。