IO模式

服务器端编程经常需要构造高性能的IO模型，IO模型有五种：

1. 同步阻塞IO（Blocking IO）：即传统的IO模型。
2. 同步非阻塞IO（Non-blocking IO）：默认创建的socket都是阻塞的，非阻塞IO要求socket被设置为NONBLOCK。此NIO非Java的NIO。
3. IO多路复用（IO Multiplexing）：Reactor设计模式，也称为异步阻塞IO，Java中的 Selector（NIO）和 Linux 中的 epoll 都是这种模型。（redis多路复用）
4. 异步IO（Asynchronous IO）：即经典的Proactor设计模式，也称为异步非阻塞IO。
5. 信号驱动IO。（不常见）

明确一个概念，如果只有一个线程，一个任务，那肯定是BIO快，没有多余的动作。优化是基于并发的，多个任务怎么办？多个线程怎么办？

1. 同步阻塞IO

image.png

//伪代码
{
    read(socket, buffer);
    process(buffer);
}

2. 同步非阻塞IO

• 同步非阻塞IO是在同步阻塞IO的基础上，将socket设置为NONBLOCK。这样做用户线程可以在发起IO请求后可以立即返回。

• 由于socket是非阻塞的方式，因此用户线程发起IO请求时立即返回。但并未读取到任何数据，用户线程需要不断地发起IO请求，直到数据到达后，才真正读取到数据，继续执行。
• 虽然用户线程每次发起IO请求后可以立即返回，但是为了等到数据，仍需要不断地轮询、消耗了大量的CPU的资源。一般很少直接使用这种模型。
• 轮询有什么用？反正还是等。我说了，如果只有一个任务，就是阻塞IO最好，但如果开十个线程，同时处理一百个任务，主线程可以将先获取到的结果进行其他处理，同时轮询socket，不香吗？

//伪代码
{
        while(read(socket, buffer) != SUCCESS)
        process(buffer);
}

IO多路复用

单线程下的IO多路复用毫无意义，就是平白无故的多了个select过程，又要socket监听，又要select来轮询事件，那为什么用呢？多线程。

3. Reactor模式下的IO多路复用

• Reactor：非阻塞同步IO模型，可以理解为：来了事件我通知你，你来处理。用户提供事件，reactor提供数据，然后用户自己读。
• Proactor：异步IO模型，可以理解为：来了事件我来处理，处理完了我通知你。用户提供事件和buffer，Proactor将事件处理，并把输入放入buffer，再通知用户。

• a. 单Reactor单线程（redis多路复用）

• 缺点：这个模式reactor和handler在一个线程中，如果某个handler阻塞，会导致其他的handler无法执行。

//伪代码
{
     select(socket);
     while(1) {
         sockets = select();
         for(socket in sockets) {
               if(can_read(socket)) {
                      read(socket, buffer);
                      process(buffer);
               }
          }
     }
}
while前将socket添加到select监视中，然后在while内一直调用select获取被激活的socket，
一旦socket可读，便调用read函数将socket中的数据读取出来。

• b. 单reactor多线程

• 由于decode、compute、encode的操作并非IO的操作，多线程Reactor的思路就是充分发挥多核的特性，同时把非IO的操作剥离开。
• 但是，单个Reactor承担了所有的事件监听、响应工作，如果连接过多，还是可能存在性能问题。

• c. 主从Reactor多线程

• 优点：【1】父线程与子线程的数据交互简单职责明确，父线程只需要接收新连接，子线程完成后续的业务处理。【2】且父线程与子线程的数据交互简单，Reactor主线程只需要把新连接传给子线程，子线程无需返回数据
  
• mainReactor建立连接，多个subReactor负责数据读写。 缺点：编程复杂度较高

• 4. Proactor模式下的IO多路复用（异步IO）

• 在IO多路复用模型中，事件循环将文件句柄的状态事件（是否可读、可写）通知给用户线程，由用户线程自行读取、处理数据。而在异步IO模型中，当用户线程收到通知时，数据已经被内核读取完毕，并放在了用户线程指定的buffer内，内核在IO完成后通知用户线程直接使用buffer的内容即可。

• 异步IO模型使用了Proactor设计模式实现了这一机制。

• Proactor模式和Reactor模式在结构上比较相似，不过在用户（Client）使用方式上差别较大。
  Reactor模式中，用户线程通过向Reactor对象注册感兴趣的事件监听，然后事件触发时调用事件处理函数。
  Proactor模式中，用户线程将AsynchronousOperation（读/写等）、Proactor以及操作完成时的CompletionHandler注册到AsynchronousOperationProcessor。AsynchronousOperationProcessor使用Facade模式提供了一组异步操作API（读/写等）供用户使用，当用户线程调用异步API后，便继续执行自己的任务。AsynchronousOperationProcessor 会开启独立的内核线程执行异步操作，实现真正的异步。当异步IO操作完成时，AsynchronousOperationProcessor将用户线程与AsynchronousOperation一起注册的Proactor和CompletionHandler取出，然后将CompletionHandler与IO操作的结果数据一起转发给Proactor，Proactor负责回调每一个异步操作的事件完成处理函数handle_event。虽然Proactor模式中每个异步操作都可以绑定一个Proactor对象，但是一般在操作系统中，Proactor被实现为Singleton模式，以便于集中化分发操作完成事件。