半同步半异步模式

同步和异步的区别

在IO模型中:同步和异步的区分在于内核向应用程序通知的是和种IO事件,同步模式下通知的是就绪事件,异步通知的是完成事件,以及到底是谁来完成I/O读写,同步模式下由应用程序来I/O读写完成,而异步模式下由内核帮我们完成I/O读写。
在并发模型中:同步指的是程序完全按照代码的顺序执行;异步指的是程序的执行需要由系统事件来驱动,比如中断,信号等等。

同步异步的优缺点

按同步方式运行的线程为同步线程,按异步方式运行的线程为异步线程
异步线程:执行效率高,实时性强,但编写异步方式执行的程序较为复杂,难以调试和扩展,而且不适合大量的并发。
同步线程:效率相对较低,实时性较差,但逻辑简单。

半同步/半异步模型

半同步/半异步模式中,同步线程用于处理客户逻辑,异步线程用于处理I/O事件。异步线程监听客户请求后,就将其封装成请求对象并插入到请求队列中。请求队列将通知某个工作在同步模式的工作线程来读取并处理该请求对象。具体选择哪个工作线程来为新的客户请求服务,取决于请求队列的设计,比如最简单的Round Robin算法,轮询选择。

半同步/半反应堆模型

如下图所示,异步线程只有一个就是主线程,主线程将所有连接socket插入到请求队列,所有工作线程都睡眠在请求队列上,当有任务到来时,他们将通过竞争(如互斥锁)来获取任务的接管权,这种竞争机制使得只有空闲的工作线程才有机会来处理工作线程。
半同步半异步模式_第1张图片

半同步半反应堆模型的缺点:

  1. 工作线程和主线程共享请求队列,主线程往请求队列添加任务或者工作线程从请求队列获取任务都需要加锁保护,从而白白浪费CPU时间
  2. 每个工作线程在同一时间只能处理一个客户请求,如果客户请求较多,工作线程较少,则会造成任务堆积,客户端的响应速度将会越来越慢,同时,如果工作线程较多,则工作线程的切换也将浪费大量的CPU时间

高效的半同步半异步模式
半同步半异步模式_第2张图片
如图所示,主线程只管理监听socket,连接socket由工作线程来管理,当有新的连接到来,主线程就将接受之并将新返回的连接socket派发给某个工作线程,此后,该连接socket上的任何I/O操作都有这个工作线程来完成,直至客户关闭连接,这在一定程度上节省了线程切换的开销。
主线程一般通过管道将连接socket派发给向工作线程。工作线程检测到管道上有可读时,就分析是否是一个新的客户连接请求到来,如果是,则把该新socket上的读写事件注册到自己的epoll内核事件表中。

每个线程都维持着自己的事件循环,one loop per thread.
摘自Linux高性能服务器编程

你可能感兴趣的:(网络编程)