如何应对高并发

什么是高并发

---

高并发是互联网分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时处理很多请求。高并发相关的一些指标有响应时间、吞吐量、每秒查询率QPS、并发用户数等。

• 响应时间： 系统对请求做出响应的时间。例如系统处理一个HTTP请求需要200ms，这个200ms就是系统的响应时间。
• 吞吐量： 单位时间内(年月日时分秒)处理的请求数量。
• QPS： 每秒响应请求数。
• 并发用户数： 同时承载正常使用系统功能的用户数量。例如一个即时通讯系统，同时在线量一定程度上代表了系统的并发用户数。

如何提升系统的并发能力

---

互联网分布式架构设计，提高系统并发能力的方式，方法论上主要有两种：垂直扩展(Scale Up)，水平扩展(Scale Out)

垂直扩展

提升单机处理能力。垂直扩展的方式又分为两种：

• 增强单机硬件性能。例如：增加CPU核数如32核，升级更好的网卡如万兆，升级更好的硬盘如SSD，扩充硬盘容量如2T，扩充系统内存如128G；
• 提升单机架构性能。例如：使用Cache来减少IO次数，使用异步来增加单服务吞吐量，使用无锁数据结构来减少响应时间；

水平扩展

只要增加服务器数量，就能线性扩充系统性能。水平扩展对系统架构设计是有要求的。

典型的互联网封层架构

• 客户端层： 典型调用方是浏览器或手机APP
• 反向代理层： 系统入口(Ingress)、反向代理（Nginx）
• 站点应用层： 实现核心应用逻辑，返回HTML、JSON
• 服务层： 微服务体现在这一层
• 数据缓存层： 缓存加速访问缓存
• 数据库层： 数据库持久化数据存储

水平扩展分层架构

---

反向代理层的水平扩展

反向代理层的水平扩展，是通过DNS轮询实现的：DNS Server对于一个域名配置了多个解析IP，每次DNS解析请求来访问DNS Server，会轮询这些IP。

当Nginx成为瓶颈的时候，只要添加服务器的数量，新增Nginx服务器的部署，增加一个外网IP，就能扩展反向代理层的性能，做到理论上的无限高并发。

站点应用层的水平扩展

站点层的水平扩展，是通过Nginx实现的。通过修改nginx.conf，可以设置多个Web后端。

当Web后端成为瓶颈时，只要增加服务器的数量，新增Web服务器的部署，在Nginx配置中配置上新的web后端，就能扩展站点层的性能，做到理论上的无限高并发。

服务层的水平扩展

数据层的水平扩展

在数据量很大的情况下，数据层(缓存，数据库)涉及数据的水平扩展，将原本存储于一台服务器的上的数据水平拆分到不同服务器上，已达到扩充系统性能的目的。

按照范围水平拆分

按照哈希水平拆分

水平拆分与主从同步

这里需要注意的是，通过水平拆分来扩充系统性能，与主从同步读写分离来扩充数据库性能的方式有本质的不同

注意： 缓存层的水平拆分和数据库层的水平拆分类似，也是以范围拆分和哈希拆分的方式居多

总结

高并发(High Concurrency)是互联网分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求。

提高系统并发能力的方式，方法论上主要有两种：垂直扩展(Scale Up)与水平扩展(Scale Out)。前者垂直扩展可以通过提升单机硬件性能，或者提升单机架构性能，来提高并发性，但单机性能总是有极限的，互联网分布式架构设计高并发终极解决方案还是后者：水平扩展。

互联网分层架构中，各层次水平扩展的实践又有所不同：

反向代理层可以通过 DNS 轮询 的方式来进行水平扩展
站点层可以通过 Nginx 来进行水平扩展
服务层可以通过服务连接池来进行水平扩展
数据库可以按照数据范围，或者数据哈希的方式来进行水平扩展
各层实施水平扩展后，能够通过增加服务器数量的方式来提升系统的性能，做到理论上的性能无限。