I/O多路转接之epoll
文章目录
- 0. epoll初识
- 1. epoll的相关系统调用
-
- 1-1 epoll_create
- 1-2 epoll_ctl
- 1-3 epoll_wait
- 2. epoll工作原理
- 3. 总结一下, epoll的使用过程就是三部曲
- 4. epoll工作方式
-
- 4-1 水平触发Level Triggered 工作模式
- 4-2 边缘触发Edge Triggered工作模式
- 4-3 epoll的使用场景
- 5. epoll示例: epoll服务器(LT模式)
- 6. epoll示例: epoll服务器(ET模式)
0. epoll初识
按照man手册的说法: 是为处理大批量句柄而作了改进的poll. 它是在2.5.44内核中被引进的(epoll(4) is a new API introduced in Linux kernel 2.5.44) 它几乎具备了之前所说的一切优点，被公认为Linux2.6下性能最好的多路I/O就绪通知方法。
1. epoll的相关系统调用
epoll 有3个相关的系统调用
1-1 epoll_create
-
创建一个epoll的句柄
- 自从linux2.6.8之后， size参数是被忽略的.
- 用完之后, 必须调用close()关闭
接口：
#include
int epoll_create(int size);
一旦成功，这些系统调用将返回一个非负的文件描述符。出现错误时，返回-1，并将errno设置为指示错误。
1-2 epoll_ctl
#include
int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);
成功后，epoll_ctl（）返回零。当发生错误时，epoll_ctl（）返回-1，并适当设置errno。
epoll的事件注册函数
- 它不同于select()是在监听事件时告诉内核要监听什么类型的事件, 而是在这里先注册要监听的事件类型.
- 第一个参数是epoll_create()的返回值(epoll的句柄).
- 第二个参数表示动作，用三个宏来表示.
- 第三个参数是需要监听的fd.
- 第四个参数是告诉内核需要监听什么事
第二个参数的取值:
| 取值 | 含义 |
|---|---|
| EPOLL_CTL_ADD | 注册新的fd到epfd中 |
| EPOLL_CTL_MOD | 修改已经注册的fd的监听事件 |
| EPOLL_CTL_DEL | 从epfd中删除一个fd； |
struct epoll_event结构如下:
typedef union epoll_data
{
void *ptr;
int fd;
uint32_t u32;
uint64_t u64;
} epoll_data_t;
struct epoll_event
{
uint32_t events; /* Epoll events */
epoll_data_t data; /* User data variable */
} __EPOLL_PACKED;
events可以是以下几个宏的集合：
| 宏 | 含义 |
|---|---|
| EPOLLIN | 表示对应的文件描述符可以读 (包括对端SOCKET正常关闭); |
| EPOLLOUT | 表示对应的文件描述符可以写; |
| EPOLLPRI | 表示对应的文件描述符有紧急的数据可读 (这里应该表示有带外数据到来); |
| EPOLLERR | 表示对应的文件描述符发生错误; |
| EPOLLHUP | 表示对应的文件描述符被挂断; |
| EPOLLET | 将EPOLL设为边缘触发(Edge Triggered)模式, 这是相对于水平触发(Level Triggered)来说的. |
| EPOLLONESHOT | 只监听一次事件, 当监听完这次事件之后, 如果还需要继续监听这个socket的话, 需要再次把这个socket加入到EPOLL队列里 |
1-3 epoll_wait
int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout);
收集在epoll监控的事件中已经发送的事件
- 参数events是分配好的epoll_event结构体数组.
- epoll将会把发生的事件赋值到events数组中 (events不可以是空指针，内核只负责把数据复制到这个events数组中，不会去帮助我们在用户态中分配内存).
- maxevents告之内核这个events有多大，这个 maxevents的值不能大于创建epoll_create()时的size.
- 参数timeout是超时时间 (毫秒， 0会立即返回， -1是永久阻塞).
- 如果函数调用成功，返回对应I/O上已准备好的文件描述符数目，如返回0表示已超时, 返回小于0表示函数失败。
2. epoll工作原理
（该图片来源于知乎大佬滴~）
- 当某一进程调用epoll_create方法时， Linux内核会创建一个eventpoll结构体，这个结构体中有两个成员与epoll的使用方式密切相关。
struct eventpoll{
....
/*红黑树的根节点，这颗树中存储着所有添加到epoll中的需要监控的事件*/
struct rb_root rbr;
/*双链表中则存放着将要通过epoll_wait返回给用户的满足条件的事件*/
struct list_head rdlist;
....
};
- 每一个epoll对象都有一个独立的eventpoll结构体，用于存放通过epoll_ctl方法向epoll对象中添加进来的事件。
- 这些事件都会挂载在红黑树中，如此，重复添加的事件就可以通过红黑树而高效的识别出来(红黑树的插入时间效率是lgn，其中n为树的高度)。
- 而所有添加到epoll中的事件都会与设备(网卡)驱动程序建立回调关系，也就是说，当响应的事件发生时会调用这个回调方法。
- 这个回调方法在内核中叫ep_poll_callback,它会将发生的事件添加到rdlist双链表中。
- 在epoll中，对于每一个事件，都会建立一个epitem结构体。
struct epitem{
struct rb_node rbn;//红黑树节点
struct list_head rdllink;//双向链表节点
struct epoll_filefd ffd; //事件句柄信息
struct eventpoll *ep; //指向其所属的eventpoll对象
struct epoll_event event; //期待发生的事件类型
}
- 当调用epoll_wait检查是否有事件发生时，只需要检查eventpoll对象中的rdlist双链表中是否有epitem元素即可。
- 如果rdlist不为空，则把发生的事件复制到用户态，同时将事件数量返回给用户. 这个操作的时间复杂度是O(1)（为啥不直接给用户，需要拷贝给用户；操作系统不信任任何用户。）
3. 总结一下, epoll的使用过程就是三部曲
- 调用epoll_create创建一个epoll句柄;
- 调用epoll_ctl, 将要监控的文件描述符进行注册;
- 调用epoll_wait, 等待文件描述符就绪。
4. epoll工作方式
epoll有2种工作方式-水平触发(LT)和边缘触发(ET)
4-1 水平触发Level Triggered 工作模式
- 当epoll检测到socket上事件就绪的时候, 可以不立刻进行处理. 或者只处理一部分.
- 由于只读了1K数据, 缓冲区中还剩1K数据, 在第二次调用 epoll_wait 时, epoll_wait仍然会立刻返回并通知socket读事件就绪.
- 直到缓冲区上所有的数据都被处理完, epoll_wait 才不会立刻返回.
- 支持阻塞读写和非阻塞读写
4-2 边缘触发Edge Triggered工作模式
如果我们在第1步将socket添加到epoll描述符的时候使用了EPOLLET标志, epoll进入ET工作模式。
- 当epoll检测到socket上事件就绪时, 必须立刻处理.
- 虽然只读了1K的数据, 缓冲区还剩1K的数据, 在第二次调用 epoll_wait 的时候,epoll_wait 不会再返回了.
- 也就是说, ET模式下, 文件描述符上的事件就绪后, 只有一次处理机会.
- ET的性能比LT性能更高( epoll_wait 返回的次数少了很多). Nginx默认采用ET模式使用epoll.
- 只支持非阻塞的读写
4-3 epoll的使用场景
- epoll的高性能, 是有一定的特定场景的. 如果场景选择的不适宜, epoll的性能可能适得其反。
-
对于多连接, 且多连接中只有一部分连接比较活跃时, 比较适合使用epoll。
-
例如, 典型的一个需要处理上万个客户端的服务器, 例如各种互联网APP的入口服务器, 这样的服务器就很适合epoll.如果只是系统内部, 服务器和服务器之间进行通信, 只有少数的几个连接, 这种情况下用epoll就并不合适. 具体要根据需求和场景特点来决定使用哪种IO模型。
-
5. epoll示例: epoll服务器(LT模式)
- 封装一个 Epoll 服务器, 只考虑读就绪的情况
代码链接：
https://gitee.com/ding-xushengyun/linux__cpp/tree/master/4_epoll
6. epoll示例: epoll服务器(ET模式)
基于 LT 版本稍加修改即可
- 修改 tcp_socket.hpp, 新增非阻塞读和非阻塞写接口
- 对于 accept 返回的 new_sock 加上 EPOLLET 这样的选项
注意: 此代码考虑 listen_sock ET 的情况. 如果将 listen_sock 设为 ET, 则需要非阻塞轮询的方式 accept. 否则会导致同一时刻大量的客户端同时连接的时候, 只能 accept 一次的问题。
- 由于ET模式的特性；我们需要每次把数据一次性读完，避免丢失；这就需要每个描述符sock都有一个收发、错误、缓冲区；并能执行相应的回调方法。
已经描述了；就需要我们用unordered_map统一组织起来。(便于我们再回调函数中实现)
对于读取操作：
(1) 当buffer由不可读状态变为可读的时候，即由空变为不空的时候。
(2) 当有新数据到达时，即buffer中的待读内容变多的时候。
(3) 当buffer中有数据可读（即buffer不空）且用户对相应fd进行epoll_mod修改为epol_IN事件时。
对于写操作：
(1) 当buffer由不可写变为可写的时候，即由满状态变为不满状态的时候。
(2) 当有旧数据被发送走时，即buffer中待写的内容变少得时候。
(3) 当buffer中有可写空间（即buffer不满）且用户对相应fd进行epoll_mod修改为epol_OUT事件时
代码链接
https://gitee.com/ding-xushengyun/linux__cpp/tree/master/Reactor
每一个客户都有自己的缓冲区；互不影响。