每日一博 - 闲聊“突发流量”的应对之道

---

概述

面对“突发流量”的情况,我会采取以下应急措施:

1. 扩容现有资源。这是最直接和最常用的方法。可以通过增加CPU、内存、节点等来扩容。典型案例是双11等大促期间,阿里会大规模扩容幕布等系统以应对流量激增。
2. 横向扩展,增加更多服务器或节点。通过增加服务器数量来分摊流量,抵御突发流量冲击。例如网易严选在特大促销日会增加大量计算节点以应对流量激增。
3. 限流降级,关闭非关键服务。临时关闭不太重要的服务,让服务器资源集中处理关键业务。例如淘宝在双11当天会关闭搜索引擎等服务,全部资源用于应付商城业务。
4. 负载均衡,多机房部署。将应用部署在不同机房,通过DNS均衡策略分流用户流量,避免单点压力过大。例如京东商城就部署在北京、上海、广州三地机房。
5. 缓存利用。利用缓存系统的响应速度快的优点,将atic内容缓存在缓存,减少对后端系统的访问。利用率最高的缓存数据可以直接在缓存系统响应用户,而不访问后端系统。典型案例是淘宝商品详情页等静态内容都会缓存在Redis中。

综上,面对突发流量应通过扩容,扩展,限流,负载均衡,缓存等手段来应对,确保系统稳定和可用。并且要从全局角度出发,相互协调各系统之间的关系。

---

应对突发流量的应急之道可以从以下几个方面入手：

• 自动化伸缩：通过自动化伸缩技术，可以根据实时监测到的流量情况，自动增加或减少服务器资源。例如，使用云计算平台提供的自动伸缩功能，可以根据负载情况自动增加或减少实例数量，从而保证系统的稳定性和可用性。

• 缓存技术：通过使用缓存技术，可以将一部分请求缓存到内存中，减轻服务器的负载压力。例如，使用Redis等内存数据库进行缓存，可以大幅提升系统的性能和并发能力。

• 负载均衡：通过负载均衡技术，将请求分发到多个服务器上进行处理，从而提高系统的并发处理能力。例如，使用Nginx等负载均衡软件进行请求转发，可以有效地提高系统的可用性和性能。

以下是一些真实案例：

• 2018年“双11”期间，阿里巴巴使用了自主研发的“流量卫士”系统，通过自动化伸缩和负载均衡等技术，成功应对了高峰期每秒4000万次请求的流量压力。

• 2020年新冠疫情期间，中国政府推出了“健康码”系统，用于实现人员健康信息的管理和防疫溯源。由于用户量暴增，系统面临了巨大的流量压力。为了解决这一问题，系统采用了缓存技术和负载均衡技术，成功应对了每天数亿次请求的流量压力。

• 2021年5月，美国在线游戏公司Riot Games的《英雄联盟》游戏因为新出的赛季和新英雄的上线，导致服务器流量激增。为了应对这一情况，公司采用了自动化伸缩技术和负载均衡技术，成功应对了每秒超过150万次请求的流量压力。

---

思路

戳这里