文章持续更新,可以微信搜一搜「golang小白成长记」第一时间阅读,回复【教程】获golang免费视频教程。本文已经收录在GitHub https://github.com/xiaobaiTech/golangFamily (点击阅读原文直达), 有大厂面试完整考点和成长路线,欢迎Star。
我们知道网络就像一根管子,而管子吧,就会有粗细。
一个数据包想从管子的一端到另一端,得过这个管子。(废话)
但数据包的量有大有小,想过管子,数据包不能大于这根管子的粗细。
问题来了,数据包过大时怎么办?
答案比较简单。会把数据包切分小块。这样数据就可以由大变小,顺利传输。
数据分片回去看下网络分层协议,数据先过传输层,再到网络层。
这个行为在传输层和网络层都有可能发生。
在传输层(TCP
协议)里,叫分段。
在网络层(IP
层),叫分片。(注意以下提到的IP没有特殊说明的情况下,都是指IPV4)
那么不管是分片还是分段,肯定需要按照一定的长度切分。
在TCP
里,这个长度是MSS
。
在IP
层里,这个长度是MTU
。
那MSS和MTU是什么关系呢?这个在之前的文章里简单提到过。这里单独拿出来。
MSS:Maximum Segment Size 。TCP 提交给 IP 层最大分段大小,不包含 TCP Header 和 TCP Option,只包含 TCP Payload ,MSS 是 TCP 用来限制应用层最大的发送字节数。
假设 MTU= 1500 byte,那么 MSS = 1500- 20(IP Header) -20 (TCP Header) = 1460 byte,如果应用层有 2000 byte 发送,那么需要两个切片才可以完成发送,第一个 TCP 切片 = 1460,第二个 TCP 切片 = 540。
我们都知道TCP三次握手,而MSS
会在三次握手的过程中传递给对方,用于通知对端本地最大可以接收的TCP报文数据大小(不包含TCP和IP报文首部)。
比如上图中,B将自己的MSS发送给A,建议A在发数据给B的时候,采用MSS=1420
进行分段。而B在发数据给A的时候,同样会带上MSS=1372
。两者在对比后,会采用小的那个值(1372)作为通信的MSS值
,这个过程叫MSS协商
。
另外,一般情况下MSS + 20(TCP头)+ 20(IP头)= MTU,上面抓包的图里对应的MTU分别是1372+40 和 1420+40。同一个路径上,MTU不一定是对称的,也就是说A到B和B到A,两条路径上的MTU可以是不同的,对应的MSS也一样。
当然不是,每次执行TCP发送消息的函数时,会重新计算一次MSS,再进行分段操作。
我们再看TCP的报头。
TCP报头其实MSS是作为可选项引入的,只不过一般情况下MSS都会传,但是万一遇到了哪台机器的实现上比较调皮,不传MSS这个可选项。那对端该怎么办?
如果没有接收到对端TCP的MSS,本端TCP默认采用MSS=536Byte。
那为什么会是536
?
536(data) + 20(tcp头)+20(ip头)= 576Byte
前面提到了IP会切片,那会切片,也就会重组,而这个576正好是 IP 最小重组缓冲区的大小。
MTU: Maximum Transmit Unit,最大传输单元。其实这个是由数据链路层提供,为了告诉上层IP层,自己的传输能力是多大。IP层就会根据它进行数据包切分。一般 MTU=1500 Byte。
假设IP层有 <= 1500
byte 需要发送,只需要一个 IP 包就可以完成发送任务;假设 IP 层有 > 1500
byte 数据需要发送,需要分片才能完成发送,分片后的 IP Header ID 相同,同时为了分片后能在接收端把切片组装起来,还需要在分片后的IP包里加上各种信息。比如这个分片在原来的IP包里的偏移offset。
在mac
控制台输入 ifconfig
命令,可以看到MTU的值为多大。
$ ipconfig
lo0: flags=8049 mtu 16384
...
en0: flags=8863 mtu 1500
...
p2p0: flags=8843 mtu 2304
...
可以看到这上面有好几个MTU,可以简单理解为每个网卡的处理能力不同,所以对应的MTU也不同。当然这个值是可以修改的,但不在今天的讨论范畴内,不再展开。
在一台机器的应用层到这台机器的网卡,这条链路上,基本上可以保证,MSS < MTU
。
这其实是由传输效率决定的。首先,虽然我们平时用的网络感觉挺稳定的,但其实这是因为TCP在背地里做了各种重传等保证了传输的可靠,其实背地里线路是动不动就丢包的,而越大的包,发生丢包的概率就越大。
那是不是包越小就越好?也不是
但是如果选择一个比较小的长度,假设选择MTU
为300Byte
,TCP payload = 300 - IP Header - TCP Header = 300 - 20 - 20 = 260 byte
。那有效传输效率= 260 / 300 = 86%
而如果以太网长度为1500,那有效传输效率= 1460 / 1500 = 96%
,显然比 86%
高多了。
所以,包越小越不容易丢包,包越大,传输效率又越高,因此权衡之下,选了1500
。
由于本身IP层就会做分片这件事情。就算TCP不分段,到了IP层,数据包也会被分片,数据也能正常传输。
既然网络层就会分片了,那么TCP为什么还要分段?是不是有些多此一举?
假设有一份数据,较大,且在TCP层不分段,如果这份数据在发送的过程中出现丢包现象,TCP会发生重传,那么重传的就是这一大份数据(虽然IP层会把数据切分为MTU长度的N多个小包,但是TCP重传的单位却是那一大份数据)。
假设TCP不分段如果TCP把这份数据,分段为N个小于等于MSS长度的数据包,到了IP层后加上IP头和TCP头,还是小于MTU,那么IP层也不会再进行分包。此时在传输路上发生了丢包,那么TCP重传的时候也只是重传那一小部分的MSS段。效率会比TCP不分段时更高。
假设TCP分段类似的,传输层除了TCP外,还有UDP协议,但UDP本身不会分段,所以当数据量较大时,只能交给IP层去分片,然后传到底层进行发送。
也就是说,正常情况下,在一台机器的传输层到网络层这条链路上,如果传输层对数据做了分段,那么IP层就不会再分片。如果传输层没分段,那么IP层就可能会进行分片。
说白了,数据在TCP分段,就是为了在IP层不需要分片,同时发生重传的时候只重传分段后的小份数据。
上面提到了,在发送端,TCP分段后,IP层就不会再分片了。
但是整个传输链路中,可能还会有其他网络层设备,而这些设备的MTU可能小于发送端的MTU。此时虽然数据包在发送端已经分段过了,但是在IP层就还会再分片一次。
如果链路上还有设备有更小的MTU,那么还会再分片,最后所有的分片都会在接收端处进行组装。
IP分片再分片因此,就算TCP分段过后,在链路上的其他节点的IP层也是有可能再分片的,而且哪怕数据被第一次IP分片过了,也是有可能被其他机器的IP层进行二次、三次、四次….分片的。
上面提到的IP层在传输过程中因为各个节点间MTU可能不同,导致数据是可能被多次分片的。而且每次分片都要加上各种信息便于在接收端进行分片重组。那么IP层是否可以做到不分片?
如果有办法知道整个链路上,最小的MTU是多少,并且以最小MTU长度发送数据,那么不管数据传到哪个节点,都不会发生分片。
整个链路上,最小的MTU,就叫PMTU(path MTU)。
有一个获得这个PMTU的方法,叫 Path MTU Discovery。
$cat /proc/sys/net/ipv4/ip_no_pmtu_disc
0
默认为0
,意思是开启PMTU发现的功能。现在一般机器上都是开启的状态。
原理比较简单,首先我们先回去看下IP的数据报头。
IP报头DF这里有个标红的标志位DF
(Don't Fragment),当它置为1,意味着这个IP报文不分片。
当链路上某个路由器,收到了这个报文,当IP报文长度大于路由器的MTU时,路由器会看下这个IP报文的DF
如果为0
(允许分片),就会分片并把分片后的数据传到下一个路由器
如果为1
,就会把数据丢弃,同时返回一个ICMP包给发送端,并告诉它"达咩!"数据不可达,需要分片,同时带上当前机器的MTU
理解了上面的原理后,我们再看下PMTU发现是怎么实现的。
应用通过TCP正常发送消息,传输层TCP分段后,到网络层加上IP头,DF置为1,消息再到更底层执行发送
此时链路上有台路由器由于各种原因MTU变小了
IP消息到这台路由器了,路由器发现消息长度大于自己的MTU,且消息自带DF不让分片。就把消息丢弃。同时返回一个ICMP
错误给发送端,同时带上自己的MTU
。
发送端收到这个ICMP消息,会更新自己的MTU,同时记录到一个PMTU表中。
因为TCP的可靠性,会尝试重传这个消息,同时以这个新MTU值计算出MSS进行分段,此时新的IP包就可以顺利被刚才的路由器转发。
如果路径上还有更小的MTU的路由器,那上面发生的事情还会再发生一次。
数据在TCP分段,在IP层就不需要分片,同时发生重传的时候只重传分段后的小份数据
TCP分段时使用MSS,IP分片时使用MTU
MSS是通过MTU计算得到,在三次握手和发送消息时都有可能产生变化。
IP分片是不得已的行为,尽量不在IP层分片,尤其是链路上中间设备的IP分片。因此,在IPv6中已经禁止中间节点设备对IP报文进行分片,分片只能在链路的最开头和最末尾两端进行。
建立连接后,路径上节点的MTU值改变时,可以通过PMTU发现更新发送端MTU的值。这种情况下,PMTU发现通过浪费N次发送机会来换取的PMTU,TCP因为有重传可以保证可靠性,在UDP就相当于消息直接丢了。
动图图解!GMP模型里为什么要有P?背后的原因让人暖心
i/o timeout,希望你不要踩到这个net/http包的坑
妙啊! 程序猿的第一本互联网黑话指南
程序员防猝死指南
我感觉,我可能要拿图灵奖了。。。
给大家丢脸了,用了三年golang,我还是没答对这道内存泄漏题
硬核!漫画图解HTTP知识点+面试题
TCP粘包 数据包:我只是犯了每个数据包都会犯的错 |硬核图解
硬核图解!30张图带你搞懂!路由器,集线器,交换机,网桥,光猫有啥区别?
画动图,太难了。。。看完求个赞,下次图会动得更凶。