互联网架构“高可用” “高并发”
什么是高可用
高可用 HA（High Availability）是分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计减少系统不能提供服务的时间。
如何保障系统的高可用
冗余(多个节点) + 自动故障转移
什么是高并发
高并发（High Concurrency）是互联网分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求。
如何提升系统的并发能力
- 垂直扩展：提升单机处理能力。
- 水平扩展：只要增加服务器数量，就能线性扩充系统性能。
常见的互联网分层架构
常见的互联网分层架构
- 客户端层：典型调用方是浏览器或者手机应用
- 反向代理层：系统入口，反向代理
- 站点应用层：实现核心应用逻辑，返回 HTML
- 服务层：如果实现了服务化，就有这一层
- 数据-缓存层：缓存加速访问存储
- 数据-数据库层：数据库固化数据存储
分层高可用架构实践
【客户端层->反向代理层】的高可用
【客户端层】到【反向代理层】的高可用，是通过 反向代理层的冗余 来实现的。以 nginx 为例：有两台 nginx，一台对线上提供服务，另一台冗余以保证高可用，常见的实践是 keepalived 存活探测，相同 virtual IP 提供服务。
【反向代理层->站点层】的高可用
【反向代理层】到【站点层】的高可用，是通过 站点层的冗余 来实现的。
假设反向代理层是 nginx，nginx.conf 里能够配置多个 web 后端，并且 nginx 能够探测到多个后端的存活性。【站点层->服务层】的高可用
“服务连接池”会建立与下游服务多个连接，每次请求会“随机”选取连接来访问下游服务。
【服务层->缓存层】的高可用
缓存层的数据冗余又有几种方式：第一种是利用客户端的封装，service 对 cache 进行双读或者双写。
以 redis 为例，redis 天然支持主从同步，redis 官方也有 sentinel 哨兵机制，来做 redis 的存活性检测。
自动故障转移：当 redis 主挂了的时候，sentinel 能够探测到，会通知调用方访问新的 redis，整个过程由 sentinel 和 redis 集群配合完成，对调用方是透明的。
【服务层->数据库层】的高可用
大部分互联网技术，数据库层都用了 主从同步，读写分离 架构。
所以数据库层的高可用，又分为 读库高可用 与 写库高可用 两类。
读库高可用
既然冗余了读库，一般来说就至少有 2 个从库，“数据库连接池”会建立与读库多个连接，每次请求会路由到这些读库。
写库高可用
以 mysql 为例，可以设置两个 mysql 双主同步，一台对线上提供服务，另一台冗余以保证高可用，常见的实践是 keepalived 存活探测，相同 virtual IP 提供服务。
分层水平扩展架构实践
反向代理层的水平扩展
反向代理层的水平扩展
反向代理层的水平扩展，是通过 DNS轮询 实现的：dns-server 对于一个域名配置了多个解析 ip，每次DNS 解析请求来访问 dns-server，会轮询返回这些 ip。
当 nginx 成为瓶颈的时候，只要增加服务器数量，新增 nginx 服务的部署，增加一个外网 ip，就能扩展反向代理层的性能，做到理论上的无限高并发。
站点层的水平扩展
站点层的水平扩展
站点层的水平扩展，是通过 nginx 实现的。通过修改 nginx.conf，可以设置多个 web 后端。当 web 后端成为瓶颈的时候，只要增加服务器数量，新增 web 服务的部署，在 nginx 配置中配置上新的 web 后端，就能扩展站点层的性能，做到理论上的无限高并发。
服务层的水平扩展
服务层的水平扩展
服务层的水平扩展，是通过 服务连接池 实现的。
站点层通过 RPC-client 调用下游的服务层 RPC-server 时，RPC-client 中的连接池会建立与下游服务多个连接，当服务成为瓶颈的时候，只要增加服务器数量，新增服务部署，在 RPC-client 处建立新的下游服务连接，就能扩展服务层性能，做到理论上的无限高并发。