redis是单线程的为什么还这么快?

Redis是基于内存运行的高性能 K-V 数据库,官方提供的测试报告是单机可以支持约10w/s的QPS。

但是,在设计上,Redis 采用单线程架构。

为什么单线程设计依然会有这么高的性能?如果利用多线程并发处理请求不是更好吗?

在本文中,让我们深入探讨为什么 Redis 只有单线程架构,依然如此之快,主要从下面4个方面讲解。

  • • 数据存储在内存中
  • • 高效的数据结构
  • • 单线程架构
  • • 非阻塞IO

让我们一一剖析。

1、数据存储在内存中

Redis 完全基于内存,数据存在内存中,绝大部分请求是纯粹的内存操作,非常快速,跟传统的磁盘文件数据存储相比,避免了通过磁盘IO读取到内存这部分的开销。

下面图片是各存储系统的延迟比较,由此可以看出不同存储介质的速度差异。

redis是单线程的为什么还这么快?_第1张图片

各存储系统的延迟比较

2、高效的数据结构

Redis 一共有 5 种数据类型,String、List、Hash、Set、SortedSet。

不同的数据类型底层使用了一种或者多种数据结构来支撑,目的就是为了追求更快的速度。

以下为每种数据类型底层使用到的数据结构:

redis是单线程的为什么还这么快?_第2张图片

每种数据类型底层的数据结构

各种数据结构的优点可以自己搜索一下。

3、单线程架构

采用单线程,省去了很多上下文切换的时间以及CPU消耗,不存在竞争条件,不用去考虑各种锁的问题,不存在加锁释放锁操作,也不会出现死锁而导致的性能消耗,且能够使用各种“线程不安全”命令,例如 Lpush。

注意这里我们强调的单线程,指的是网络IO和键值对读写 (文件事件分派器) 使用一个线程来处理,即一个线程处理所有网络请求,但Redis的其他功能,比如持久化、异步删除、集群数据同步等等,实际是由额外的线程执行的。

那为什么使用单线程呢?官方答案是:因为CPU不是Redis的瓶颈,Redis的瓶颈最有可能是机器内存或者网络带宽。既然单线程容易实现,而且CPU不会成为瓶颈,那就顺理成章地采用单线程的方案了。

虽然多线程架构允许应用程序通过上下文切换并发处理任务,但 对 Redis 的性能提升微乎其微,因为大多数线程最终会在网络 I/O 中被阻塞。

同时要注意的是,正因为是单线程,如果某个命令执行过长(如hgetall命令),会造成阻塞。Redis是面向快速执行场景的内存数据库,所以要慎用如lrange和smembers、hgetall等命令。

4、IO多路复用

使用基于网络 I/O多路复用机制(非阻塞IO)的线程模型,可以处理并发的链接,缓解网络 I/O 速度慢的问题。

多路I/O复用模型是利用 select、poll、epoll 可以同时监察多个流的 I/O 事件的能力,在空闲的时候,会把当前线程阻塞掉,当有一个或多个流有 I/O 事件时,就从阻塞态中唤醒,然后程序就会轮询一遍所有的流(epoll 是只轮询那些真正发出了事件的流),并且依次顺序的处理就绪的流,这种做法就避免了大量的无用操作。
这里“多路”指的是多个网络连接,“复用”指的是复用同一个线程。采用多路 I/O 复用技术可以让单个线程高效的处理多个客户端的网络IO连接请求(尽量减少网络 IO 的时间消耗)

redis的网络事件处理器是基于Reactor模式,又叫做文件事件处理器。

文件事件处理器使用I/O多路复用来同时监听多个套接字,并根据套接字执行的任务关联到不同的事件处理器。

文件事件以单线程方式运行,但通过使用I/O多路复用程序来监听多个套接字,文件事件处理器实现了高性能的网络通信模型。

Redis 在处理客户端的请求时,包括接收(socket读)、解析、执行、发送(socket 写) 等都由一个顺序串行的主线程处理,这就是所谓的单线程。

文件事件处理器的结构包含4个部分,线程模型如下图:

redis是单线程的为什么还这么快?_第3张图片

高性能 IO 多路复用

多个 Socket 可能会产生不同的操作,每个操作对应不同的文件事件,但是IO多路复用程序会监听多个Socket,将Socket产生的事件放入队列中排队,事件分派器每次从队列中取出一个事件,把该事件交给对应的事件处理器进行处理。

redis是单线程的为什么还这么快?_第4张图片

redis单线程模型

Redis客户端对服务端的每次调用都经历了发送命令,执行命令,返回结果三个过程。其中执行命令阶段,由于Redis是单线程来处理命令的,所有每一条到达服务端的命令不会立刻执行,所有的命令都会进入一个队列中,然后逐个被执行。并且多个客户端发送的命令的执行顺序是不确定的。但是可以确定的是不会有两条命令被同时执行,不会产生并发问题,这就是Redis的单线程基本模型。

Redis6.0 的多线程说明

1、Redis6.0 之前为什么一直不使用多线程?

Redis使用单线程的可维护性高。多线程模型虽然在某些方面表现优异,但是它却引入了程序执行顺序的不确定性,带来了并发读写的一系列问题,增加了系统复杂度、同时可能存在线程切换、甚至加锁解锁、死锁造成的性能损耗。

2、Redis6.0 为什么要引入多线程呢?

因为Redis的瓶颈不在内存,而是在网络I/O模块带来CPU的耗时,所以Redis6.0的多线程是用来处理网络I/O这部分,充分利用CPU资源,减少网络I/O阻塞带来的性能损耗。

3、Redis6.0 如何开启多线程?

默认情况下Redis是关闭多线程的,可以在conf文件进行配置开启:

io-threads-do-reads yes
io-threads 线程数

官方建议的线程数设置:4核的机器建议设置为2或3个线程,8核的建议设置为6个线程,线程数一定要小于机器核数,尽量不超过8个。

4、多线程模式下,是否存在线程并发安全问题?

如图,一次redis请求,要建立连接,然后获取操作的命令,然后执行命令,最后将响应的结果写到socket上。

redis是单线程的为什么还这么快?_第5张图片

在redis的多线程模式下,接收,发送和解析命令可以配置成多线程执行的,因为它毕竟是我们定位到的主要耗时点,但是命令的执行,也就是内存操作,依然是单线程运行的。

所以,Redis 的多线程部分只是用来处理网络数据的读写和协议解析,执行命令仍然是单线程顺序执行,也就不存在并发安全问题。

你可能感兴趣的:(java,开发语言)