Linux C++服务器项目——项目实战1（理论知识）

牛客 C++高并发服务器开发
参考笔记

1.阻塞/非阻塞、同步/异步(网络lO)

典型的一次IO的两个阶段是什么?数据就绪和数据读写

数据就绪:根据系统IO操作的就绪状态

• 阻塞
• 非阻塞

数据读写:根据应用程序和内核的交互方式

• 同步
• 异步

陈硕:在处理IO的时候，阻塞和非阻塞都是同步IO，只有使用了特殊的API才是异步IO。

一个典型的网络IO接口调用，分为两个阶段，分别是"数据就绪"和“数据读写"，数据就绪阶段分为阻塞和非阻塞，表现得结果就是，阻塞当前线程或是直接返回。

同步表示A向B请求调用一个网络IO接口时（(或者调用某个业务逻辑API接口时)
数据的读写都是由请求方A自己来完成的（不管是阻塞还是非阻塞)﹔异步表示A向B请求调用一个网络IO接口时(或者调用某个业务逻辑API接口时)，向B传入请求的事件以及事件发生时通知的方式，A就可以处理其它逻辑了，当B监听到事件处理完成后，会用事先约定好的通知方式，通知A处理结果。

• 同步阻塞
• 同步非阻塞
• 异步阻塞
• 异步非阻塞

同步、异步区别：从内核拷贝数据到用户，是程序自己拷贝，还是让内核帮拷贝
阻塞、非阻塞区别：缓冲区没有数据到达，是卡在这里挂起进程，还是直接返回，去做别的事。

2.Unix/Linux上的五种lO模型

a.阻塞blocking

调用者调用了某个函数，等待这个函数返回，期间什么也不做，不停的去检查这个函数有没有返回，必须等这个函数返回才能进行下一步动作。

数据未准备好，进程在这里等待，就没法做别的事情。虽然不占用CPU资源，但同一时刻只能处理一个操作，效率低。若果要多个操作，就要开多个线程，线程也会消耗资源。

b.非阻塞non-blocking (NIO)

非阻塞等待，每隔一段时间就去检测IO事件是否就绪。没有就绪就可以做其他事。
非阻塞I/O执行系统调用总是立即返回，不管事件是否已经发生，若事件没有发生，则返回-1，此时可以根据errno区分这两种情况，对于accept,recv和send，事件未发生时，errno通常被设置成 EAGAIN。

非阻塞，会忙轮询，一直检测是否就绪，没有就绪就可以做其他事，但忙轮询会占用更多的CPU和系统资源。 假如，有10000个客户端，检查一次是否就绪，while循环要对这10000个客户端读数据，调用非常多。

c.IO复用(IO multiplexing)

Linux用select/poll/epoll函数实现IO复用模型，这些函数也会使进程阻塞,9掘显和阻塞lO所不同的是这些函数可以同时阻塞多个IO操作。而且可以同时对多个读操作、写操作的IO函数进行检测。直到有数据可读或可写时，才真正调用IO操作函数。

多路复用，还是同步，，，只有用了特殊API的才会才会异步。

d.信号驱动(signal-driven)

Linux用套接口进行信号驱动I0，安装一个信号处理函数，进程继续运行并不阻塞，当IO事件就绪，进程收到SIGIO信号，然后处理IO事件。

内核在第一个阶段是异步，在第二个阶段是同步;与非阻塞IO的区别在于它提供了消息通知机制，不需要用户进程不断的轮询检查，减少了系统API的调用次数，提高了效率。

e.异步(asynchronous)

Linux中，可以调用aio_read函数告诉内核描述字缓冲区指针和缓冲区的大小、文件偏移及通知的方式，然后立即返回，当内核将数据拷贝到缓冲区后，再通知应用程序。

/*Asynchronous I/o control block. * /
struct aiocb
{
	int aio_fildes;/*File desriptor.*/
	int aio_lio_opcode;/*operation to be performed.*/
	int aio_reqprio;/*Request priority offset.*/
	volatile void *aio_buf;/*Location of buffer.* /
	size_t aio_nbytes;/ Length of transfer.* /
	struct sigevent aio_sigevent; /* signal number and value.*/

	/ Internal members.*/
	struct aiocb *_next_prio;int __abs_prio;
	int __policy;
	int __error_code;
	_ssize_t __return_value;
	
#ifndef __uSE_FILE_OFFSET64
_off_t aio_offset;/* File offset.*/
char _pad[sizeof ( __off64_t) - sizeof (__off_t)];
#else
__off64_t aio_offset;/* File offset.* /
#endif
char __glibc_reserved[32];

3 Web Server（网页服务器）

一个Web Server就是一个服务器软件（程序)，或者是运行这个服务器软件的硬件（计算机)。其主要功能是通过HTTP协议与客户端（通常是浏览器(Browser) )进行通信，来接收，存储处理来自客户端的HTTP请求，并对其请求做出HTTP响应，返回给客户端其请求的内容(文件、网页等）或返回一个Error信息。

通常用户使用Web浏览器与相应服务器进行通信。在浏览器中键入"域名"或"IP地址:端口号”，浏览器则先将你的域名解析成相应的IP地址或者直接根据你的IP地址向对应的Web服务器发送一个HTTP请求。这一过程首先要通过TCP协议的三次握手建立与目标Web服务器的连接，然后HTTP协议生成针对目标Web服务器的HTTP请求报文，通过TCP、IP等协议发送到目标Web服务器上。

4.HTTP协议(应用层的协议)

4.1 简介

超文本传输协议(Hypertext Transfer Protocol，HTTP)是一个简单的请求-响应协议，它通常运行在TCP之上。它指定了客户端可能发送给服务器什么样的消息以及得到什么样的响应。请求和响应消息的头以ASCII形式给出;而消息内容则具有一个类似MIME的格式。
HTTP是万维网的数据通信的基础

HTTP的发展是由蒂姆·伯纳斯-李于1989年在欧洲核子研究组织(CERN）所发起。
HTTP的标准制定由万维网协会(World wide Web Consortium，W3C)和互联网工程任务组(Internet Engineering Task Force，IETF)进行协调，最终发布了一系列的RFC，其中最著名的是1999年6月公布的RFC2616，定义了HTTP协议中现今广泛使用的一个版本——HTTP 1.1。

4.2 概述

HTTP是一个客户端终端（用户）和服务器端（网站）请求和应答的标准（TCP)。通过使用网页浏览器、网络爬虫或者其它的工具，客户端发起一个HTTP请求到股劳命上指上响‘TMI立件和图像。我们称这个应答服务器为代理程序(user agent)。应答的服务器上存储着一些资源，比如HTML文件和源服务器（origin server)。在用户代理和源服务器中间可能存在多个“"中间层”，比如代理服务器、网关或者隧道。

4.3 工作原理

HTTP协议定义Web客户端如何从Web服务器请求Web页面，以及服务器如何把Web页面传送给客户端。HTTP协议采用了请求/响应模型。客户端向服务器发送一个请求报文，请求报文包含请求的方法、URL、协议版本、请求头部和请求数据。服务器以一个状态行作为响应，响应的内容包括协议的版本、成功或者错误代码、服务器信息、响应头部和响应数据。

以下是HTTP请求/响应的步骤:1.客户端连接到web服务器一个HTTP客户端，通常是浏览器，与Web服务器的HTTP端口（默认为80）建立一个TCP套接字连接。例如，http:.//www.baidu.com。(URL)

⒉.发送HTTP请求
通过TCP套接字，客户端向Web服务器发送一个文本的请求报文，一个请求报文由请求行、请求头部、空行和请求数据4部分组成。

3.服务器接受请求并返回HTTP响应
Web服务器解析请求，定位请求资源。服务器将资源复本写到TCP套接字，由客户端读取。一个响应由状态行、响应头部、空行和响应数据4部分组成。

4.释放连接TCР连接
若connection模式为close，则服务器主动关闭TCP连接，客户端被动关闭连接，释放TCP连接;若connection模式为keepalive，则该连接会保持一段时间，在该时间内可以继续接收请求;

5.客户端浏览器解析HTML内容
客户端浏览器首先解析状态行，查看表明请求是否成功的状态代码。然后解析每一个响应头，响应头告知以下为若干字节的HTML文档和文档的字符集。客户端浏览器读取响应数据HTML，根据HTML的语法对其进行格式化，并在浏览器窗口中显示。

6.浏览器将该HTML显示

4.4 HTTP请求报文格式

HTTP协议是基于TCP/IP协议之上的应用层协议，基于请求-响应的模式。HTTP协议规定，请求从客户端发出，最后服务器端响应该请求并返回。换句话说，肯定是先从客户端开始建立通信的服务器端在没有接收到请求之前不会发送响应。

4.5 HTTP请求方法

HTTP/1.1协议中共定义了八种方法（也叫"动作”)来以不同方式操作指定的资源:
1.GET:向指定的资源发出显示"请求。使用GET方法应该只用在读取数据，而不应当被用于产生′副作用"的操作中，例如在Web Application中。其中一个原因是GET可能会被网络蜘蛛等随意访问。

2.HEAD:与GET方法一样，都是向服务器发出指定资源的请求。只不过服务器将不传回资源的本文部分。它的好处在于，使用这个方法可以在不必传输全部内容的情况下，就可以获取其中"关于该资源的信息”(元信息或称元数据)。

3.POST:向指定资源提交数据，请求服务器进行处理（例如提交表单或者上传文件)。数据被包含在请求本文中。这个请求可能会创建新的资源或修改现有资源，或二者皆有。

4.PUT:向指定资源位置上传其最新内容。

5.DELETE:请求服务器删除Request-URI所标识的资源。6.TRACE:回显服务器收到的请求，主要用于测试或诊断。

7.OPTIONS:这个方法可使服务器传回该资源所支持的所有HTTP请求方法。用*'来代替资源名称，向Web服务器发送OPTIONS请求，可以测试服务器功能是否正常运作。

8.CONNECT:HTTP/1.1协议中预留给能够将连接改为管道方式的代理服务器。通常用于SSL加密服务器的链接(经由非加密的HTTP代理服务器)。

4.6 HTTP状态码

所有HTTP响应的第一行都是状态行，依次是当前HTTP版本号，3位数字组成的状态代码，以及描述状态的短语，彼此由空格分隔。
状态代码的第一个数字代表当前响应的类型:

• 1xx消息―一请求已被服务器接收，继续处理
• 2xx成功一一请求已成功被服务器接收、理解、并接受
• 3xx重定向――需要后续操作才能完成这一请求
• 4xx请求错误――请求含有词法错误或者无法被执行
• 5xx服务器错误―—服务器在处理某个正确请求时发生错误

虽然 RFC 2616中已经推荐了描述状态的短语，例如"200 OK"，"404 Not Found’
，但是WEB开发者仍然能够自行决定采用何种短语，用以显示本地化的状态描述或者自定义信息。

5.服务器编程基本框架

虽然服务器程序种类繁多，但其基本框架都一样，不同之处在于逻辑处理。

6.两种高效的事件处理模式

服务器程序通常需要处理三类事件:I/O事件、信号及定时事件。有两种高效的事件处理模式: Reactor和Proactor，同步IO模型通常用于实现Reactor模式，异步I/O模型通常用于实现Proactor模式。

6.1 Reactor模式

要求主线程（I/O处理单元)只负责监听文件描述符上是否有事件发生，有的话就立即将该事件通知工作线程（逻辑单元)，将socket可读可写事件放入请求队列，交给工作线程处理。除此之外，主线程不做任何其他实质性的工作。读写数据，接受新的连接，以及处理客户请求均在工作线程中完成。

使用同步I/O(以epoll_wait为例)实现的Reactor模式的工作流程是:

• 1.主线程往epoll内核事件表中注册socket 上的读就绪事件。

• 2.主线程调用epoll_wait等待socket上有数据可读。

• 3.当socket上有数据可读时, epoll_wait通知主线程。主线程则将socket可读事件放入请求队列。

• 4.睡眠在请求队列上的某个工作线程被唤醒，它从socket读取数据，并处理客户请求，然后往epoll内核事件表中注册该socket 上的写就绪事件。

• 5.当主线程调用epoll_wait等待socket可写。

• 6.当socket 可写时，epoll_wait通知主线程。主线程将socket可写事件放入请求队列。

• 7.睡眠在请求队列上的某个工作线程被唤醒，它往socket上写入服务器处理客户请求的结果。

Reactor模式的工作流程:

6.2 Proactor模式

Proactor模式将所有O操作都交给主线程和内核来处理(进行读、写)，工作线程仅仅负责业务逻辑。使用异步IO模型(以aio_read和aio_write为例)实现的Proactor模式的工作流程是:

1.主线程调用aio_read函数向内核注册socket上的读完成事件，并告诉内核用户读缓冲区的位置，以及读操作完成时如何通知应用程序(这里以信号为例)。

2.主线程继续处理其他逻辑。

3.当socket上的数据被读入用户缓冲区后，内核将向应用程序发送一个信号
以通知应用程序数据已经可用。

4.应用程序预先定义好的信号处理函数选择一个工作线程来处理客户请求。工作线程处理完客户请求后，调用aio_write函数向内核注册socket上的写完成事件，并告诉内核用户写缓冲区的位置，以及写操作完成时如何通知应用程序。

5.主线程继续处理其他逻辑。

6.当用户缓冲区的数据被写入socket之后，内核将向应用程序发送一个信号以通知应用程序数据已经发送完毕。

7.应用程序预先定义好的信号处理函数选择一个工作线程来做善后处理，比如决定是否关闭socket。

模拟Proactor模式

使用同步I/O方式模拟出Proactor模式。原理是:主线程执行数据读写操作
读写完成之后，主线程向工作线程
通知这一"完成事件"。那么从工作线程的角度来看，它们就直接获得了数据读写的结果，接下来要做的只是对读写的结果进行逻辑处理。
9226德弱同步IO模型(以epoll_wait为例）模拟出的Proactor模式的工作流程女
下:

• 1.主线程往epoll内核事件表中注册socket上的读就绪事件。
• ⒉.主线程调用epoll_wait 等待socket上有数据可读。
• 3.当socket上有数据可读时，epoll_wait通知主线程。主线程从socket循环读取数据，直到没有更多数据可读，然后将读取到的数据封装成一个请求对象并插入请求队列。
• 4.睡眠在请求队列上的某个工作线程被唤醒，它获得请求对象并处理客户请求，然后往epoll内核事件表中注册socket 上的写就绪事件。
• 5.主线程调用epoll_wait 等待socket可写。
• 6.当socket可写时，epoll_wait通知主线程。主线程往socket上写入服务器处理客户请求的结果。

7.线程池

线程池是由服务器预先创建的一组子线程，线程池中的线程数量应该和CPU数量差不多。线程池中的所有子线程都运行着相同的代码。当有新的任务到来时，主线程将通过某种方式选择线程池中的某一个子线程来为之服务。相比与动态的创建子线程，选择一个已经存在的子线程的代价显然要小得多。至于主线程选择哪个子线程来为新任务服务，则有多种

方式:

• 主线程使用某种算法来主动选择子线程。最简单、最常用的算法是随机算法和Round Robin(轮流选取）算法，但更优秀、更智能的算法将使任务在各个工作线程中更均匀地分配,从而减轻服务器的整体压力。

• 主线程和所有子线程通过一个共享的工作队列来同步，子线程都睡眠在该工作队列上。当有新的任务到来时，主线程将任务添加到工作队列中。这将唤醒正在等待任务的子线程，不过只有一个子线程将获得新任务的"接管权”，它可以从工作队列中取出任务并执行之，而其他子线程将继续睡眠在工作队列上。

线程池的一般模型为:

线程池中的线程数量最直接的限制因素是中央处理器(CPU)的处理器(processors/cores)的数量N:如果你的CPU是4-cores的，对于CPU密集型的任务(如视频剪辑等消耗CPU计算资源的任务)来说，那线程池中的线程数量最好也设置乃4(rDI的计算资源而是IO，IO的处理一股教便，多J iu 数，因为线程间竞争的不是CPU的计算资源而是I0，IO的处理一般较慢，多于cor多的任务，不至在线程处理IO的过程造成CPU空闲导致资源浪费。

• 空间换时间，浪费服务器的硬件资源，换取运行效率。
• 池是一组资源的集合，这组资源在服务器启动之初就被完全创建好并初始化，这称为静态资源。
• 当服务器进入正式运行阶段，开始处理客户请求的时候，如果它需要相关的资源，可以直接从池中获取，无需动态分配。
• 当服务器处理完一个客户连接后，可以把相关的资源放回池中，无需执行系统调用释放资源。