百度APP移动端网络深度优化实践分享(二)：网络连接优化篇

本文由百度技术团队“蔡锐”原创发表于“百度App技术”公众号，原题为《百度App网络深度优化系列《二》连接优化》，感谢原作者的无私分享。

一、前言

在《百度APP移动端网络深度优化实践分享(一)：DNS优化篇》里大家了解到网络优化一般会首选优化DNS，而接下来的HTTP协议成为优化的重点，一般优化者会选择协议切换，合并请求，精简数据包大小等手段来对HTTP协议进行优化，严谨的说这都不属于网络优化的范畴。

HTTP协议的基础是连接，所以我们的《百度APP移动端网络深度优化实践分享(二)：网络连接优化篇》应运而生，希望对大家在网络方向的学习和实践有所帮助。

本系列文章目录如下：

• 《百度APP移动端网络深度优化实践分享(一)：DNS优化篇》
• 《百度APP移动端网络深度优化实践分享(二)：网络连接优化篇》（* 本文）
• 《百度APP移动端网络深度优化实践分享(三)：移动端弱网优化篇》

（本文同步发布于：http://www.52im.net/thread-2479-1-1.html）

二、相关文章

《TCP/IP详解 - 第17章·TCP：传输控制协议》
《TCP/IP详解 - 第18章·TCP连接的建立与终止》
《TCP/IP详解 - 第21章·TCP的超时与重传》
《通俗易懂-深入理解TCP协议（上）：理论基础》
《通俗易懂-深入理解TCP协议（下）：RTT、滑动窗口、拥塞处理》
《理论经典：TCP协议的3次握手与4次挥手过程详解》
《现代移动端网络短连接的优化手段总结：请求速度、弱网适应、安全保障》
《移动端IM开发者必读(一)：通俗易懂，理解移动网络的“弱”和“慢”》
《移动端IM开发者必读(二)：史上最全移动弱网络优化方法总结》

三、技术背景

连接优化需要解决两个核心问题：

1）连接建立耗时较长，导致请求的总时长变长，进而影响用户体验；

2）在多变的网络环境下，连接建立的过程可能会失败，导致成功率下降，进而影响用户体验。

百度App承载着亿级流量，对于每一个请求都需要追求耗时短，成功率高的体验。从协议角度出发，如何才能做到这一点呢？首先我们来看下建立连接耗时的原理。

▲ 建立连接耗时的原理

从上图我们能清晰的看出：

1）DNS Query需要1个RTT（Round-Trip Time，即往返时间），百度App都是基于HTTPDNS服务的，所以大部分会命中缓存，如果降级走了系统DNS，也会命中缓存，命中不了的由于是基于UDP协议，所以在连接耗时上没有太大的影响，线上的数据也能说明这点；

2）TCP要经历SYN，SYN/ACK，ACK三次握手的1.5个RTT，不过ACK和ClientHello合并了，所以就是1个RTT；

3）TLS（Transport Layer Security，即传输层安全性协议）需要经过握手和密钥交换2个RTT。

综上所述：DNS、TLS、TCP握手阶段用了4个RTT才到了ApplicationData阶段，也就是数据开始传输阶段。

通过上面的分析可以总结出，如果我们能尽量的将TLS和TCP的RTT减少，将会大大降低连接耗时的时间。

四、连接优化我们都能做什么？

百度App的优化目标分为两类，一类是TLS的连接优化，一类是TCP的连接优化。

下面，我们将分别介绍基于这两种优化的思路和实践总结。

五、连接优化之“TLS的连接优化”

TLS的连接优化，需要服务端和客户端都需要支持，共同完成优化手段，包括Session Resumption和False Start。

5.1 Session Resumption

Session Resumption中文意思是会话复用，下图讲解了Session Resumption的协议原理。

▲ Session Resumption的协议原理

通过上图可以看出TLS密钥协商交换的过程没有了，但具体是如何实现的呢？包含两种方式，一种是Sesssion Identifier，一种是Session Ticket。

1）Session Identifier：

Session Identifier中文为会话标识符，更像我们熟知的session的概念。是 TLS 握手中生成的 Session ID。服务端会将Session ID保存起来，客户端也会存储Session ID，在后续的ClientHello中带上它，服务端如果能找到匹配的信息，就可以完成一次快速握手。

2）Session Ticket：

Session Identifier存在一些弊端，比如客户端多次请求如果没有落在同一台机器上就无法找到匹配的信息，但Session Ticket可以。Session Ticket更像我们熟知的cookie的概念，Session Ticket用只有服务端知道的安全密钥加密过的会话信息，保存在客户端上。客户端在ClientHello时带上了Session Ticket，服务器如果能成功解密就可以完成快速握手。

不管是Session Identifier还是Session Ticket都存在时效性问题，不是永久生效，对于这两种方式大家可以查看参考资料【4】。百度App的网络协议层对这两种方式都是支持的，省去了TLS握手过程中证书下载，密钥协商交换的环节，节省了1个RTT的时间。

5.2 False Start

False Start的中文意思是抢跑，下图讲解了False Start的协议原理。

▲ False Start的协议原理

上图很清晰的说明在TLS第一步握手成功后，客户端在发送Change Cipher Spec Finished的同时开始数据传输，服务端在TLS握手完成时直接返回应用数据。应用数据的发送实际上并未等到握手全部完成，所以称之为抢跑。

从结果看省去了1个RTT的时间。False Start有两个前提条件：

一是要通过应用层协议协商ALPN（Application Layer Protocol Negotiation）握手；

二是要支持前向安全的加密算法。

False Start在未完成握手的情况下就发送了数据，前向安全可以提高安全性，具体协议实现，大家可以查看参考资料【3】。百度App的网络协议层对False Start是支持的。

这里说句题外话，其实TCP层有个类似的连接优化手段叫Fast Open，感兴趣的同学，可以查看参考资料【5】。

5.3 Session Resumption和False Start的区别

两者对于TLS来说都是节省一个RTT，Session Resumption在第一次握手时还是需要2个RTT，在第二次握手时才能复用减少到1个RTT。False Start是端上的行为，故每次都会减少到1个RTT。

六、连接优化之“TCP的连接优化”

TCP的连接优化，我们先从连接池说起，首先让我们来认识下连接池都有哪些类型。

6.1 连接池

▲ 连接池的类型

上图展示了连接池的不同类型，都是大家耳熟能详的协议连接池，有低级连接池，包含TCP连接池（管理HTTP请求的连接）和WebSocket连接池（管理WebSocket连接）。

有高级连接池，包括HTTP代理连接池（管理HTTP代理请求的连接），SpdySession连接池（管理SPDY和HTTP/2请求的连接），SOCKS连接池（管理SOCKS和SOCKS5代理的连接），SSL连接池（管理HTTPS请求的连接）。

不同类型的连接池以组合的形式互相复用能力：

1）SSL连接池管理的是SSLSocket，但SSLSocket又依赖于TCP连接池提供的TCPSocket；

2）HTTP代理连接池如果走HTTP协议，那么就需要TCP连接池提供TCPSocket，如果走HTTPS协议，那么就需要SSL连接池提供SSLSocket；

3）SpdySession连接池依赖SSL连接池提供SSLSocket，这里需要说明下，虽然HTTP/2协议没有强制绑定HTTPS，但是在实际开发中确实都是绑定HTTPS，百度App使用ALPN来协商HTTP/2；

4）SOCKS连接池管理的SOCKSSocket和SOCKS5Socket都需要依赖TCP连接池提供的TCPSocket，虽然SOCKS5支持UDP，但cronet网络库暂时没有实现；

5）WebSocket连接池依赖TCP连接池提供的TCPSocket，声明下这里没有说明WSS（Web Socket Secure）的情况。

TCP连接优化是一个比较复杂的内容，百度App做了针对性场景优化，包括预连接，连接重建，备用连接，复合连接。

6.2 预连接

▲ 预连接和连接重建

预连接：预先创建好的连接。它解决的场景是在App使用阶段可以无耗时的获取连接。下面用四个问答来解释预连接。

问题一：预连接是否能解决所有网络请求的提前连接建立？

答：答案是否定的，预连接需要业务方进行核心业务的评估，针对核心的域名进行预连接的建立。

问题二：预连接既然针对的是特定的域名，那么是如何配置的呢？

答：采用域名+连接数的方式进行配置，比如https://a.baidu.com|2，表示给a.baidu.com这个域名配置两条预连接，这里要说明下，在HTTP/1.x协议下，网络库的实现都会对于单域名有最大连接数的限制，不同网络库的个数限制不一样，有5个也有6个，但对于HTTP/2协议，这个连接数就只能是1个。

问题三：预连接是如何建立的？

答：在网络库初始化的时候，会根据使用者的配置延迟5s进行预连接的建立，主要是考虑网络库在冷启动下对于启动性能的影响，为了保证网络库的整体性能，预连接的总个数限制在20个。

问题四：预连接是如何保持的？

答：在网络库初始化的时候，除了进行预连接的建立，还会创建一个预连接的定时器，这个定时器会每隔31s，这个值的设定取决于BFE（Baidu Front End，是七层流量的统一接入系统）和BGW（Baidu Gate Way，百度自主研发的四层负载均衡平台）对超时的最小值设定，根据使用者的配置重新建立连接。

6.3 连接重建

连接重建，将连接重新建立。它解决的场景是App网络状态发生变化，IP地址变化，导致连接不可用。下面用三个问答来解释连接重建。

问题一：连接重建是否针对连接池里的所有连接？

答：答案是肯定的。

问题二：连接重建的过程是什么样的？

答：在网络状态变化的时候，第一步会清除掉连接池里的idle socket，何为idle socket？即空闲socket，对于从未使用过的空闲socket超过60秒清除，对于使用过的空闲socket超过90秒清除。第二步重建连接需要等待200ms，目的是等待DNS先重建完成。

问题三：连接重建对于性能有影响吗？

答：出于性能考虑，连接重建的连接个数限制是100个。

6.4 备用连接

▲ 备用连接和复合连接

备用连接，预备的连接。它解决的场景是正常发送一个请求当group内无连接可用的时候（何为group？group是管理socket的最小单元，内部包含活跃socket，空闲socket，连接任务，等待请求）。下面用三个问答来解释备用连接。

问题一：备用连接是否针对所有请求？

答：答案是肯定的。

问题二：备用连接的过程是什么样的？

答：当有请求来临时，连接池内无连接可用，会启动一个定时器开启备用连接，定时器的间隔时间是250ms，与主连接进行竞争，如果主连接因为网络抖动或者网络状态不好，导致连接失败，那么备用连接就直接发送请求。如果主连接成功，那么备用连接就被取消掉。

问题三：备用连接的目的是什么？

答：在连接池无连接的情况下，务必是要创建连接的，在主连接之外加一个备用连接，会大大提升创建连接的成功率，从而提升用户体验。

6.5 复合连接

复合连接，即多条连接。它解决的场景是为了多个IP地址的连接选取问题。下面用三个问答来解释复合连接。

问题一：复合连接是否针对所有请求？

答：答案是肯定的。复合连接可以全局开关，百度App现阶段暂时没有开启复合连接。

问题二：复合连接的过程是什么样的？

答：众所周知域名DNS查询一般情况下会返回多个IP，我们以域名查询返回两个IP为例

1）如果结果中存在IPv6的地址，那么会优先选用IPv6的地址，这个规则follow HappyEyeBall机制（可参考系列一对于HappyEyeBall的介绍）。

2） 接下来这两个IP会按照顺序尝试建立连接，如果第一个IP返回失败，将立即开始连接第二个IP。

3）如果第一个IP率先成功返回，那么第二个IP将被加入连接尝试列表并停止所有尝试连接。

4）如果第一个IP失败，会立刻开始第二个IP的连接。

5）如果第一个IP处于pending状态，那么会启动一个定时器，默认延迟2s会发起第二个IP的连接，如果是多个IP将会递归连接，需要特别说明下，不同的网络制式延迟时间会不一样，这样体验也会更好。

问题三：复合连接的目的是什么？

答：复合连接的好处是提供最优的IP选取机制，但也会带来服务端的高负载，所以使用的时候需要进行综合评估。

七、连接优化的最佳实践

百度App目前客户端网络架构由于历史原因还未统一，不过我们正朝着这个目标努力。

我们的中心思想是以系统网络库的API调用接口为中心，上层建立网络门面，供外部便捷调用，底层通过系统机制以AOP的方式将cronet（chromium的net模块）注入进系统网路库，达到双端网络架构统一，能力复用。

下面着重介绍下连接优化在Android和iOS网络架构中的位置及实践。

7.1 连接优化在Android网络架构的位置及实践

▲ 连接优化在Android网络架构的位置

百度App的Android网络流量目前都在okhttp之上，上层进行了网络门面的封装，封装内部的实现细节和对外友好的API，目前我们正在进行重构，默认采用Android标准的网络接口HttpURLConnection，它的底层由系统提供的okhttp的实现。

订制方面利用URL Stream Protocol机制将HttpURLConnection底层网络协议栈接管为cronet，供各个业务和基础模块使用，连接优化的所有内容在cronet网络库内部实现。

7.2 连接优化在iOS网络架构的位置及实践

▲ 连接优化在iOS网络架构的位置

百度App的iOS网络流量目前都在cronet之上，上层我们使用iOS的URL Loading System机制将cronet stack注入进URLSession里，这样我们就可以直接使用URLSession的API进行网络的操作而且更易于系统维护，在上层封装了网络门面，供各个业务和基础模块使用。

在cronet内部实现了预连接（主要针对百度App的几个核心域名进行预连和保活），连接重建（针对所有请求），备用连接（针对所有请求），复合连接（iOS上暂时没有开启），Session Resumption（针对所有请求），False Start（针对所有请求）。

八、实际收益

连接优化的收益主要体现在网络时延和网络成功率上，这两点收益需要结合业务来说，以百度App Feed刷新这个典型业务场景为例。

Feed刷新文本请求网络时延降低16%，Feed刷新图片请求网络时延降低12%，可谓收益相当明显。

成功率方面，Feed刷新文本请求成功率提升0.29%，Feed刷新图片请求成功率提升0.23%，也是非常不错的收益。

九、本文结语

连接优化是个持续性的话题，没有最优只有更优。上面介绍的百度App的一些经验和做法并不见得完美，但我们会继续深入的优化下去，持续提升百度App的网络性能。

以上优化由百度App团队，内核团队，OP团队共建完成。最后感谢大家的辛苦阅读，希望对你有所帮助，后面会继续推出-百度App网络深度优化系列《三》弱网优化，敬请期待。

十、参考资料

[1]https://chromium.googlesource.co ... ild_instructions.md

[2] https://chromium.googlesource.co ... ild_instructions.md

[3] False Start：https://tools.ietf.org/html/rfc7918

[4] Session Resumption：https://tools.ietf.org/html/rfc5077

[5] TCP Fast Open：https://tools.ietf.org/html/rfc7413

（原文链接：点此进入）

附录：更多网络通信方面的精华文章

《TCP/IP详解 - 第11章·UDP：用户数据报协议》
《TCP/IP详解 - 第17章·TCP：传输控制协议》
《TCP/IP详解 - 第18章·TCP连接的建立与终止》
《TCP/IP详解 - 第21章·TCP的超时与重传》
《技术往事：改变世界的TCP/IP协议（珍贵多图、手机慎点）》
《通俗易懂-深入理解TCP协议（上）：理论基础》
《通俗易懂-深入理解TCP协议（下）：RTT、滑动窗口、拥塞处理》
《理论经典：TCP协议的3次握手与4次挥手过程详解》
《理论联系实际：Wireshark抓包分析TCP 3次握手、4次挥手过程》
《计算机网络通讯协议关系图（中文珍藏版）》
《UDP中一个包的大小最大能多大？》
《P2P技术详解(一)：NAT详解——详细原理、P2P简介》
《P2P技术详解(二)：P2P中的NAT穿越(打洞)方案详解》
《P2P技术详解(三)：P2P技术之STUN、TURN、ICE详解》
《通俗易懂：快速理解P2P技术中的NAT穿透原理》
《高性能网络编程(一)：单台服务器并发TCP连接数到底可以有多少》
《高性能网络编程(二)：上一个10年，著名的C10K并发连接问题》
《高性能网络编程(三)：下一个10年，是时候考虑C10M并发问题了》
《高性能网络编程(四)：从C10K到C10M高性能网络应用的理论探索》
《高性能网络编程(五)：一文读懂高性能网络编程中的I/O模型》
《高性能网络编程(六)：一文读懂高性能网络编程中的线程模型》
《不为人知的网络编程(一)：浅析TCP协议中的疑难杂症(上篇)》
《不为人知的网络编程(二)：浅析TCP协议中的疑难杂症(下篇)》
《不为人知的网络编程(三)：关闭TCP连接时为什么会TIME_WAIT、CLOSE_WAIT》
《不为人知的网络编程(四)：深入研究分析TCP的异常关闭》
《不为人知的网络编程(五)：UDP的连接性和负载均衡》
《不为人知的网络编程(六)：深入地理解UDP协议并用好它》
《不为人知的网络编程(七)：如何让不可靠的UDP变的可靠？》
《不为人知的网络编程(八)：从数据传输层深度解密HTTP》
《网络编程懒人入门(一)：快速理解网络通信协议（上篇）》
《网络编程懒人入门(二)：快速理解网络通信协议（下篇）》
《网络编程懒人入门(三)：快速理解TCP协议一篇就够》
《网络编程懒人入门(四)：快速理解TCP和UDP的差异》
《网络编程懒人入门(五)：快速理解为什么说UDP有时比TCP更有优势》
《网络编程懒人入门(六)：史上最通俗的集线器、交换机、路由器功能原理入门》
《网络编程懒人入门(七)：深入浅出，全面理解HTTP协议》
《网络编程懒人入门(八)：手把手教你写基于TCP的Socket长连接》
《网络编程懒人入门(九)：通俗讲解，有了IP地址，为何还要用MAC地址？》
《技术扫盲：新一代基于UDP的低延时网络传输层协议——QUIC详解》
《让互联网更快：新一代QUIC协议在腾讯的技术实践分享》
《现代移动端网络短连接的优化手段总结：请求速度、弱网适应、安全保障》
《聊聊iOS中网络编程长连接的那些事》
《移动端IM开发者必读(一)：通俗易懂，理解移动网络的“弱”和“慢”》
《移动端IM开发者必读(二)：史上最全移动弱网络优化方法总结》
《IPv6技术详解：基本概念、应用现状、技术实践（上篇）》
《IPv6技术详解：基本概念、应用现状、技术实践（下篇）》
《从HTTP/0.9到HTTP/2：一文读懂HTTP协议的历史演变和设计思路》
《脑残式网络编程入门(一)：跟着动画来学TCP三次握手和四次挥手》
《脑残式网络编程入门(二)：我们在读写Socket时，究竟在读写什么？》
《脑残式网络编程入门(三)：HTTP协议必知必会的一些知识》
《脑残式网络编程入门(四)：快速理解HTTP/2的服务器推送(Server Push)》
《脑残式网络编程入门(五)：每天都在用的Ping命令，它到底是什么？》
《脑残式网络编程入门(六)：什么是公网IP和内网IP？NAT转换又是什么鬼？》
《以网游服务端的网络接入层设计为例，理解实时通信的技术挑战》
《迈向高阶：优秀Android程序员必知必会的网络基础》
《全面了解移动端DNS域名劫持等杂症：技术原理、问题根源、解决方案等》
《美图App的移动端DNS优化实践：HTTPS请求耗时减小近半》
《Android程序员必知必会的网络通信传输层协议——UDP和TCP》
《IM开发者的零基础通信技术入门(一)：通信交换技术的百年发展史(上)》
《IM开发者的零基础通信技术入门(二)：通信交换技术的百年发展史(下)》
《IM开发者的零基础通信技术入门(三)：国人通信方式的百年变迁》
《IM开发者的零基础通信技术入门(四)：手机的演进，史上最全移动终端发展史》
《IM开发者的零基础通信技术入门(五)：1G到5G，30年移动通信技术演进史》
《IM开发者的零基础通信技术入门(六)：移动终端的接头人——“基站”技术》
《IM开发者的零基础通信技术入门(七)：移动终端的千里马——“电磁波”》
《IM开发者的零基础通信技术入门(八)：零基础，史上最强“天线”原理扫盲》
《IM开发者的零基础通信技术入门(九)：无线通信网络的中枢——“核心网”》
《IM开发者的零基础通信技术入门(十)：零基础，史上最强5G技术扫盲》
《IM开发者的零基础通信技术入门(十一)：为什么WiFi信号差？一文即懂！》
《IM开发者的零基础通信技术入门(十二)：上网卡顿？网络掉线？一文即懂！》
《IM开发者的零基础通信技术入门(十三)：为什么手机信号差？一文即懂！》
《IM开发者的零基础通信技术入门(十四)：高铁上无线上网有多难？一文即懂！》
《IM开发者的零基础通信技术入门(十五)：理解定位技术，一篇就够》
《百度APP移动端网络深度优化实践分享(一)：DNS优化篇》
《百度APP移动端网络深度优化实践分享(二)：网络连接优化篇》
>> 更多同类文章 ……

（本文同步发布于：http://www.52im.net/thread-2479-1-1.html）