使用异步IO大大提高应用程序的性能之一

学习何时以及如何使用 POSIX AIO API
M. Tim Jones (mtj@mtjones.com), 顾问工程师, Emulex
简介： 
Linux? 中最常用的输入/输出（I/O）模型是同步 I/O。
在这个模型中，当请求发出之后，应用程序就会阻塞，直到请求满足为止。
这是很好的一种解决方案，因为调用应用程序在等待 I/O 请求完成时不需要使用任何中央处理单元（CPU）。
但是在某些情况中，I/O 请求可能需要与其他进程产生交叠(并行)。
可移植操作系统接口（POSIX）异步 I/O（AIO）应用程序接口（API）就提供了这种功能。
在本文中，我们将对这个 API 概要进行介绍，并来了解一下如何使用它。

一、AIO 简介
Linux 异步 I/O 是 Linux 内核中提供的一个相当新的增强。
它是 2.6 版本内核的一个标准特性，但是我们在 2.4 版本内核的补丁中也可以找到它。
AIO 背后的基本思想是允许进程发起很多 I/O 操作，而不用阻塞或等待任何操作完成。
稍后或在接收到 I/O 操作完成的通知时，进程就可以检索 I/O 操作的结果。


二、I/O 模型
在深入介绍 AIO API 之前，让我们先来探索一下 Linux 上可以使用的不同 I/O 模型。
这并不是一个详尽的介绍，但是我们将试图介绍最常用的一些模型来解释它们与异步 I/O 之间的区别。
图 1 给出了同步和异步模型，以及阻塞和非阻塞的模型。


图 1. 基本 Linux I/O 模型的简单矩阵

 
每个 I/O 模型都有自己的使用模式，它们对于特定的应用程序都有自己的优点。
本节将简要对其一 一进行介绍。


三、I/O 密集型与 CPU 密集型进程的比较
I/O 密集型进程所执行的 I/O 操作       >  执行的处理操作。
CPU 密集型的进程所执行的处理操作  >  I/O 操作。
Linux 2.6 的调度器实际上更加偏爱 I/O 密集型的进程，
因为它们通常会发起一个 I/O 操作，然后进行阻塞，这就意味着其他工作都可以在两者之间有效地交错进行。

四、同步阻塞 I/O
最常用的一个模型是同步阻塞 I/O 模型。
在这个模型中，用户空间的应用程序执行一个系统调用，这会导致应用程序阻塞。
这意味着应用程序会一直阻塞，直到系统调用完成为止（数据传输完成或发生错误）。
调用应用程序处于一种不再消费 CPU 而只是简单等待响应的状态，因此从处理的角度来看，这是非常有效的。
图 2 给出了传统的阻塞 I/O 模型，这也是目前应用程序中最为常用的一种模型。
其行为非常容易理解，其用法对于典型的应用程序来说都非常有效。
steps:
a. 在调用 read 系统调用时，应用程序会阻塞并对内核进行上下文切换。
b. 然后会触发读操作，
c. 当响应返回时（从我们正在从中读取的设备中返回），数据就被移动到用户空间的缓冲区中。
d. 然后应用程序就会解除阻塞（read 调用返回）。
图 2. 同步阻塞 I/O 模型的典型流程
 

从应用程序的角度来说，read 调用会延续很长时间。
实际上，在内核执行读操作和其他工作时，应用程序的确会被阻塞。

五、同步非阻塞 I/O
同步阻塞 I/O 的一种效率稍低的变种是同步非阻塞 I/O。
在这种模型中，设备是以非阻塞的形式打开的。
这意味着 I/O 操作不会立即完成，read 操作可能会返回一个错误代码，
说明这个命令不能立即满足（EAGAIN 或 EWOULDBLOCK），如图 3 所示。

图 3. 同步非阻塞 I/O 模型的典型流程
 
非阻塞的实现是 I/O 命令可能并不会立即满足，需要应用程序调用许多次来等待操作完成。
这可能效率不高，
因为在很多情况下，当内核执行这个命令时，应用程序必须要进行忙碌等待，直到数据可用为止，
或者试图执行其他工作。
正如图 3 所示的一样，这个方法可以引入 I/O 操作的延时，
因为数据在内核中变为可用到用户调用 read 返回数据之间存在一定的间隔，这会导致整体数据吞吐量的降低。


六、异步阻塞 I/O
另外一个阻塞解决方案是带有阻塞通知的非阻塞 I/O。
在这种模型中，配置的是非阻塞 I/O，然后使用阻塞 select 系统调用来确定一个 I/O 描述符何时有操作。
使 select 调用非常有趣的是它可以用来为多个描述符提供通知，而不仅仅为一个描述符提供通知。
对于每个提示符来说，我们可以请求这个描述符可以写数据、有读数据可用以及是否发生错误的通知。

图 4. 异步阻塞 I/O 模型的典型流程 (select)
 

select 调用的主要问题是它的效率不是非常高。
尽管这是异步通知使用的一种方便模型，但是对于高性能的 I/O 操作来说不建议使用。


七、异步非阻塞 I/O（AIO）
最后，异步非阻塞 I/O 模型是一种处理与 I/O 重叠(并行)进行的模型。
steps：
a. 读请求会立即返回，说明 read 请求已经成功发起了。
b. 在后台完成读操作时，应用程序然后会执行其他处理操作。
c. 当 read 的响应到达时，就会产生一个信号或执行一个基于线程的回调函数来完成这次 I/O 处理过程。

图 5. 异步非阻塞 I/O 模型的典型流程
 
在一个进程中为了执行多个 I/O 请求而对计算操作和 I/O 处理进行重叠(并行)处理的能力
利用了处理速度与 I/O 速度之间的差异。
当一个或多个 I/O 请求挂起时，CPU 可以执行其他任务；
或者更为常见的是，在发起其他 I/O 的同时对已经完成的 I/O 进行操作。