目录
一、端口号
1、端口号范围划分
2、知名端口号(Well-Know Port Number)
3、netstat
4、pidof
二、UDP协议
1、UDP协议段格式
2、UDP的特点
3、面向数据报
4、UDP的缓冲区
5、UDP使用注意事项
6、基于UDP的应用层协议
三、TCP协议
1、TCP协议段格式
2、确认应答机制(ACK)
3、超时重传机制
4、连接管理机制
4.1、什么是连接
4.2、连接过程
4.3、断开过程
4.4、状态变化
5、TIME_WAIT状态
6、解决TIME_WAIT状态引起的bind失败的方法
7、流量控制
8、滑动窗口
9、拥塞控制
10、延迟应答
11、捎带应答
12、面向字节流
13、粘包问题
14、TCP异常情况
15、TCP小结
16、 TCP连接管理队列
四、TCP/UDP对比
端口号(Port)标识了一个主机上进行通信的不同的应用程序:
在TCP/IP协议中,用 "源IP","源端口号","目的IP","目的端口号","协议号" 这样一个五元组来标识一个通信(可以通过netstat -n查看)。
有些服务器是非常常用的,为了使用方便,人们约定一些常用的服务器,都是用以下这些固定的端口号:
执行下面的命令,可以看到知名端口号:
cat /etc/services
netstat是一个用来查看网络状态的重要工具。
语法: netstat [选项]
功能:查看网络状态
常用选项:
在查看服务器的进程id时非常方便。
语法: pidof [进程名]。
功能:通过进程名, 查看进程id。
tcp/ip是属于操作系统的,Linux系统是用C语言实现的,这就说明协议是使用C语言实现的。因此协议的本质是结构化数据,即报头的本质是struct:
struct udp_header
{
uint16_t src_port;
uint16_t dst_port;
uint16_t udp_len;
uint16_t check;
}
补充内容:
在应用层,因为离用户太近,自定义协议随时都可能发生变化,所以需要进行序列化与反序列化的操作来把数据以字符串的方式传递,防止内存对齐等问题导致的错误。
但是传输层不同,TCP/IP协议一旦定好,就不会再改变了,所以直接使用结构体字段进行传递。因为它们属于操作系统的,而操作系统可以做到统一性,必须保证报头的大小是8字节,因此不需要考虑内存对齐的问题。
UDP传输的过程类似于寄信:
应用层交给UDP多长的报文,UDP原样发送,既不会拆分,也不会合并。
用UDP传输100个字节的数据:
如果发送端调用一次sendto,发送100个字节,那么接收端也必须调用对应的一次recvfrom,接收100个字节。而不能循环调用10次recvfrom,每次接收10个字节。
UDP的socket既能读,也能写,这个概念叫做全双工。
当我们传输数据时,会把对每一个报文都new一块缓冲区,并把报文封装成struct sk_buffer。以后发送或读取时,就把需要发送或读取的 struct sk_buffer 拷贝到UDP的大缓冲区里,统一发送读取。
我们注意到,UDP协议首部中有一个16位的最大长度。也就是说一个UDP能传输的数据最大长度是64K(包含UDP首部)。
然而64K在当今的互联网环境下,是一个非常小的数字。如果我们需要传输的数据超过64K,就需要在应用层手动的分包,多次发送,并在接收端手动拼装。
TCP全称为 "传输控制协议(Transmission Control Protocol")。人如其名,要对数据的传输进行一个详细的控制。
由于TCP协议的标准报头是20个字节,另外还需要算上选项大小,所以最终报头大小是20字节 + 选项大小,被记录在4位首部长度中。又因为4位首部长度的记录范围是[0,60]。所以报头的总大小范围是[20,60]。
接收端会在同一时刻收到各种各样的报文请求,这些报文请求都不同,对应的处理动作就不同。标志位就是用来标识不同类型的报文的。
16位紧急指针,是紧急数据在有效载荷中的偏移量。紧急数据只有一个字节。紧急指针的用途在于,我们在网上上传数据等场景时,如果需要暂停上传,就可以通过紧急指针来发送暂停命令。否则按照正常数据传输流程,等接收端收到暂停请求时,可能已经过去很久了。紧急指针又称为带外数据,可以在正常的传输流程下,不走主线,另外开辟一条链路传递数据。
补充内容:
recv 函数与 send 函数的 flag 参数可以设置成 MSG_OOB,即进行带外传输与带外发送。
当服务器与客户端认为连接建立状态不一致时,会把RST标志位置 1,进行连接重置。
在网络通信过程中,有诸多不可靠的问题,比如:丢包、乱序、重复、校验失败、发送太快/太慢、网络出问题等等。出现这些问题,最根本的原因是通信双方之间的距离变长了。
为了解决这些问题,首先需要双方知道问题已经发生了。可以通过确认应答机制来实现。
无论是请求还是响应,双方在进行交互的时候,通信发送的都是 TCP报头+有效载荷。
TCP将每个字节的数据都进行了编号,即为序列号。
每一个ACK都带有对应的确认序列号,意思是告诉发送者,我已经收到了哪些数据。下一次你从哪里开始发。
把发送、接收缓冲区看作一个char类型的数组,把数据拷贝到缓冲区后,这些数据天然就有了自己的下标,一段数据区间最大的下标,就是序号,下一个数据区间最小的下标就是确认序号。
发送端如果收到了应答,就认为接收端收到了对应的数据。否则无论接收端收没收到数据,发送端都认为数据丢失了。
从发送端发送数据,到进行下一步操作之前,需要有一个等待时间,用来等待接收端发送回来的应答。这个等待时间叫做时间窗口。如果超过了这个时间还没有收到应答,发送端就认为发送的数据已经丢失。
确认应答报文也有可能捎带数据,如果稍带了数据,长度会比纯应答报文长。
主机A发送数据给B之后,可能因为网络拥堵等原因,数据无法到达主机B。如果主机A在一个特定时间间隔内没有收到B发来的确认应答,就会进行重发。
但是,主机A未收到B发来的确认应答,也可能是因为ACK丢失了。
因此主机B会收到很多重复数据。那么TCP协议需要能够识别出那些包是重复的包,并且把重复的丢弃掉。这时候我们可以利用前面提到的序列号,就可以很容易做到去重的效果。
那么,超时的时间如何确定?
TCP为了保证无论在任何环境下都能比较高性能的通信,因此会动态计算这个最大超时时间。
连接是TCP协议自动做的,即是OS自动做的。在OS中一定已经存在了多个建立好的连接,OS需要把这些连接管理起来,这是一个先描述,再组织的过程。OS内为了管理连接而要维护特定的数据结构,就需要内存与cpu的资源,因此创建维护连接是有成本的。连接相关的所有字段,包括连接状态、等待重传时间等等,都保存在该数据结构中。
在正常情况下,TCP要经过三次握手建立连接,四次挥手断开连接。
三次握手的过程,由双方的OS系统中的TCP层自主完成。
调用 connect 函数,触发建立连接,等待建立完成。
调用 accept 函数,等待建立完成,获取连接。
当客户端经过两次握手,并且发送了应答请求后,客户端就认为连接建立完成了。而服务器只有在收到应答后,才会认为连接建立完成。因此就有可能出现以下情况:最后的应答在传输过程中丢失,导致客户端认为连接已经建立,而服务器认为连接还没有建立。这时客户端直接向服务器发送数据,服务器会直接在应答中把RST标志位置1,进行连接重置。
至于为什么是三次握手,别的次数不行。
首先两次握手绝对不行,因为采用两次握手的话,对于服务器而言,收到客户端的 SYN 数据报后,再发送一个应答,服务器就认为连接建立完成了,就需要建立对应的数据结构把连接管理起来。而客户端想要攻击服务器,就可以不用理会服务器发送来的应答,继续不断地向服务器发送连接请求,这样次数多了,服务器内的资源就会被用完,有巨大的隐患。
其次,由于连接请求一定是客户端发起的,且最后一个发送ACK报文的一方首先确认建立起连接。于是,如果进行奇数次握手,那么先确认建立连接的就是客户端,偶数次握手则是服务器先建立连接。如果是偶数次握手的话,就把连接可能会发生异常的不确定性给了服务器,由服务器端承担成本,而服务器端面对的是多个客户端,造成的后果会更严重。
所以进行三次握手,没有明显的设计漏洞,一旦建立连接出现异常,成本嫁接到client,server端成本较低。三次握手是验证全双工通信信道通畅的最小成本,双方都可以验证自己既能收又能发。
断开请求可能由任意一方发起,并需要经过另一方的同意。客户端发送FIN请求,并且收到服务器的ASK应答后,确认服务器得知该请求。服务器向客户端发送FIN请求,并且收到客户端发送的ASK应答后,服务器确认客户端得知该请求,此时连接断开。
服务端状态转化:
客户端状态转化:
下图是TCP状态转换的一个汇总:
TCP协议规定,主动关闭连接的一方要处于TIME_ WAIT状态,等待两个MSL(maximum segment lifetime,报文最大生存时间)的时间后才能回到CLOSED状态。
MSL在RFC1122中规定为两分钟,但是各操作系统的实现不同,在Centos7上默认配置的值是60s。可以通过 cat /proc/sys/net/ipv4/tcp_fin_timeout 查看msl的值:
TIME_WAIT的时间是2MSL,是因为:
如果不等待TIME_ WAIT状态,有可能会发生新建立的连接使用原来的端口号,并收到了上一个连接残留下来的报文,造成报文混乱的问题。
在server的TCP连接没有完全断开之前不允许重新监听,某些情况下可能是不合理的:
如果服务器是主动断开的一方,又不希望因为服务器端进入 TIME_WAIT 状态,无法立即重起,则可以使用函数接口setsockopt设置套接字选项:
int setsockopt(int sockfd, int level, int optname,
const void *optval, socklen_t optlen);
setsockopt 函数的参数列表中, sockfd 代表是哪一个套接字。 level 代表在哪一层,通常写成 SOL_SOCKET ,即在系统层面。 optname 是选项名称,一般设置成 SO_REUSEADDR ,表示地址可以复用。 optval 表示要把我们已经选定的属性设置成什么值,比如可以把该值设置为整型变量 1 ,表示地址复用为真,例如:
int opt = 1;
setsockopt(sock, SOL_SOCKET, SO_REUSEADDR, &opt, sizeof(opt));
接收端处理数据的速度是有限的。如果发送端发的太快,导致接收端的缓冲区被打满,这个时候如果发送端继续发送,就会造成丢包,继而引起丢包重传等等一系列连锁反应。
因此TCP支持根据接收端的处理能力,来决定发送端的发送速度。这个机制就叫做流量控制(Flow Control)。
接收端如何把窗口大小告诉发送端呢?回忆我们的TCP首部中,有一个16位窗口字段,就是存放了窗口大小信息。
在客户端与服务器申请建立连接时,客户端就已经把自己的16为窗口大小告诉了服务器,这时客户端与服务器的第一次交流。
那么问题来了,16位数字最大表示65535,TCP窗口最大就是65535字节么?
实际上,TCP首部40字节选项中还包含了一个窗口扩大因子M,实际窗口大小是窗口字段的值左移 M 位。
TCP协议,可靠性是主要研究的问题,但不是全部,效率问题也是TCP考虑的问题。
对每一个发送的数据段,都要给一个ACK确认应答。收到ACK后再发送下一个数据段。这样做有一个比较大的缺点,就是性能较差。尤其是数据往返的时间较长的时候。
既然这样一发一收的方式性能较低,那么我们一次发送多条数据,就可以大大的提高性能(其实是将多个段的等待时间重叠在一起了)。
因此TCP协议需要进行并发访问。且发送端并发发送,一定要在对方能够接收的前提下进行。发送方最大一次可以向对方发送的数据量,由对方的窗口大小决定。
需要注意的是:
那么如果出现了丢包,如何进行重传?这里分两种情况讨论:
情况一:数据包已经抵达,ACK被丢了。
这种情况下,部分ACK丢了并不要紧,因为可以通过后续的ACK进行确认。收到了后面的ACK,就说明前面的数据一定都被接收端收到了。
情况二:数据包丢了。
虽然TCP有了滑动窗口,能够高效可靠的发送大量的数据。但是如果在刚开始阶段就发送大量的数据,仍然可能引发问题。
因为网络上有很多的计算机,可能当前的网络状态就已经比较拥堵,在不清楚当前网络状态下,贸然发送大量的数据,是很有可能引起雪上加霜的。
如果发送方发送了大量报文,只接收到了少量的应答,则说明网络拥堵了。如果这时TCP协议使用超时重传机制,由于网络中所有主机使用的都是TCP协议,则会同时补发大量的数据,更加使网络不堪重负。
TCP引入 慢启动 机制,先发少量的数据,探探路,摸清当前的网络拥堵状态,再决定按照多大的速度传输数据。
像上面这样的拥塞窗口增长速度,是指数级别的。"慢启动" 只是指初使时慢,但是增长速度非常快。
少量的丢包,我们仅仅是触发超时重传。大量的丢包,我们就认为网络拥塞。
当TCP通信开始后,网络吞吐量会逐渐上升。随着网络发生拥堵,吞吐量会立刻下降。
拥塞控制,归根结底是TCP协议想尽可能快的把数据传输给对方,但是又要避免给网络造成太大压力的折中方案。
如果接收数据的主机立刻返回ACK应答,这时候返回的窗口可能比较小。
一定要记得,窗口越大,网络吞吐量就越大,传输效率就越高。我们的目标是在保证网络不拥塞的情况下尽量提高传输效率。
那么所有的包都可以延迟应答么? 肯定也不是。
具体的数量和超时时间,依操作系统不同也有差异。一般N取2,超时时间取200ms。
在延迟应答的基础上,我们发现,很多情况下,客户端服务器在应用层也是 "一发一收" 的。意味着客户端给服务器说了 "How are you",服务器也会给客户端回一个 "Fine, thank you"。那么这个时候ACK就可以搭顺风车,和服务器回应的 "Fine,thank you" 一起回给客户端。
创建一个TCP的socket,同时在内核中创建一个 发送缓冲区 和一个 接收缓冲区。
由于缓冲区的存在,TCP程序的读和写不需要一一匹配,例如:
写100个字节数据时,可以调用一次write写100个字节,也可以调用100次write,每次写一个字节。
读100个字节数据时,也完全不需要考虑写的时候是怎么写的,既可以一次read 100个字节,也可以一次read一个字节,重复100次。
那么如何避免粘包问题呢? 归根结底就是一句话,明确两个包之间的边界。
对于UDP协议来说, 是否也存在 "粘包问题" 呢?
进程终止:进程终止会释放文件描述符,仍然可以发送FIN。和正常关闭没有什么区别。
机器重启:和进程终止的情况相同。
机器掉电/网线断开:接收端认为连接还在,一旦接收端有写入操作,接收端发现连接已经不在了,就会进行reset. 即使没有写入操作,TCP自己也内置了一个保活定时器,会定期询问对方是否还在。如果对方不在,也会把连接释放。
另外,应用层的某些协议,也有一些这样的检测机制。例如HTTP长连接中,也会定期检测对方的状态。例如QQ,在QQ断线之后,也会定期尝试重新连接。
为什么TCP这么复杂?因为要保证可靠性,同时又尽可能的提高性能。
可靠性:
提高性能:
其他:
定时器(超时重传定时器,保活定时器,TIME_WAIT定时器等)。
基于TCP应用层协议:
Linux内核协议栈为一个tcp连接管理使用两个队列:
全连接队列的长度会受到 listen 第二个参数的影响。全连接队列满了的时候,就无法继续把当前连接维护到全连接队列了,即无法让当前连接的状态进入到established 状态。只能把他维护到半连接队列,保持在SYN_RCVD状态,半连接的保持时间很短,过一段时间之后自动关闭。
全队列的长度是 listen 的第二个参数 + 1。这个队列不能太长,也不能没有。因为OS要保证自己的内部资源的使用率是百分之一百。
我们说了TCP是可靠连接,那么是不是TCP一定就优于UDP呢?TCP和UDP之间的优点和缺点,不能简单,绝对的进行比较。
归根结底,TCP和UDP都是程序员的工具,什么时机用,具体怎么用,还是要根据具体的需求场景去判定。