协程浅析

前言

线程、进程见得多了，协程也总是听人提起，但是不知协程具体为何物，所以就去了解了一下，写下此篇总结。

参考

《coroutine协程详解》
《协程 及 libco 介绍》
《协程(Coroutine)-ES中关于Generator/async/await的学习思考》

---

协程

线程

线程是内核对外提供的服务，应用程序可以通过系统调用让内核启动线程，由内核来负责线程调度和切换。线程在等待IO操作时线程变为unrunnable状态会触发上下文切换。现代操作系统一般都采用抢占式调度，上下文切换一般发生在时钟中断和系统调用返回前，调度器计算当前线程的时间片，如果需要切换就从运行队列中选出一个目标线程，保存当前线程的环境，并且恢复目标线程的运行环境。

进程(Process)和线程(Thread)是os通过调度算法，保存当前的上下文，然后从上次暂停的地方再次开始计算，重新开始的地方不可预期，每次CPU计算的指令数量和代码跑过的CPU时间是相关的，跑到os分配的cpu时间到达后就会被os强制挂起，开发者无法精确的控制它们。

协程

why协程

为什么使用协程，我们先从server框架的实现说起，对于client-server的架构，server最简单的实现：

while(1) {accept();recv();do();send();}

串行地接收连接、读取请求、处理、应答，该实现弊端显而易见，server同一时间只能为一个客户端服务。

为充分利用好多核cpu进行任务处理，我们有了多进程/多线程的server框架，这也是server最常用的实现方式：

accept进程 - n个epoll进程 - n个worker进程

1. accpet进程处理到来的连接，并将fd交给各个epoll进程
2. epoll进程对各fd设置监控事件，当事件触发时通过共享内存等方式，将请求传给各个worker进程
3. worker进程负责具体的业务逻辑处理并回包应答

以上框架以事件监听、进程池的方式，解决了多任务处理问题，但我们还可以对其作进一步的优化。

进程/线程是Linux内核最小的调度单位，一个进程在进行io操作时 (常见于分布式系统中RPC远程调用)，其所在的cpu也处于iowait状态。直到后端svr返回，或者该进程的时间片用完、进程被切换到就绪态。是否可以把原本用于iowait的cpu时间片利用起来，发生io操作时让cpu处理新的请求，以提高单核cpu的使用率？

协程在用户态下完成切换，由程序员完成调度，结合对socket类/io操作类函数挂钩子、添加事件监听，为以上问题提供了解决方法。

定义

协程（Coroutine）是一种轻量级的用户态线程，实现的是非抢占式的调度，即由当前协程切换到其他协程由当前协程来控制。目前的协程框架一般都是设计成 1:N 模式。所谓 1:N 就是一个线程作为一个容器里面放置多个协程。

在用户态没有时钟中断，系统调用等机制，那么协程切换由什么触发？调度器将控制权交给某个协程后，控制权什么时候回到调度器，从而调度另外一个协程运行？

实际上，这需要协程主动放弃CPU，控制权回到调度器，从而调度另外一个协程运行。所谓协作式线程(cooperative)，需要协程之间互相协作，不需要使用CPU时将CPU主动让出。

原理

协程切换和内核线程的上下文切换相同，也需要有机制来保存当前上下文，恢复目标上下文。

作用

协程带来的最大的好处就是可以用同步的方式来写异步的程序。

比如协程A，B：A是工作协程，B是网络IO协程(这种模型下，实际工作协程会比网络IO协程多)：

1. A发送一个包时只需要将包push到A和B之间的一个channel，然后就可以主动放弃CPU，让出CPU给其它协程运行。
2. B从channel中pop出将要发送的包，接收到包响应后，将结果放到A能拿到的地方，然后将A标识为ready状态，放入可运行队列等待调度。
3. A下次被调度器调度就可以拿到结果继续做后面的事情。

如果是基于线程的模型，A和B都是线程，通常基于回调的方式

1. A阻塞在某个队列Q上，B接受到响应包回调A传给B的回调函数f，回调函数f将响应包push到Q中，A可以取到响应包继续干活，如果阻塞基于cond等机制，则会被OS调度出去，如果忙等，则耗费CPU。

2. A可以不阻塞在Q上，而是继续做别的事情，可以定期过来取结果。 这种情况下，线程模型业务逻辑其实被打乱了，发包和取包响应的过程被隔离开了。

《Coroutine及其实现》

优缺点

优点

• 协程更加轻量，创建成本更小，降低了内存消耗
  协程本身可以做在用户态，每个协程的体积比线程要小得多，因此一个进程可以容纳数量相当可观的协程

• 协作式的用户态调度器，减少了 CPU 上下文切换的开销，提高了 CPU 缓存命中率

  协作式调度相比抢占式调度的优势在于上下文切换开销更少、更容易把缓存跑热。进程 / 线程的切换需要在内核完成，而协程不需要，协程通过用户态栈实现，更加轻量，速度更快。

• 减少同步加锁，整体上提高了性能

  协程方案基于事件循环方案，减少了同步加锁的频率。

• 可以按照同步思维写异步代码，即用同步的逻辑，写由协程调度的回调

  需要注意的是，协程的确可以减少 callback 的使用但是不能完全替换 callback。基于事件驱动的编程里面反而不能发挥协程的作用而用 callback 更适合。

缺点

• 在协程执行中不能有阻塞操作，否则整个线程被阻塞(协程是语言级别的，线程，进程属于操作系统级别)

• 协程可以处理 IO 密集型程序的效率问题，但是处理 CPU 密集型不是它的长处。

  假设这个线程中有一个协程是 CPU 密集型的他没有 IO 操作，也就是自己不会主动触发调度器调度的过程，那么就会出现其他协程得不到执行的情况，所以这种情况下需要程序员自己避免。