系统设计基础

性能

性能指标

1、响应时间
指从某个请求从出发到接受到响应消耗时间。
2、吞吐量
指系统在单位时间内可以处理的请求数量。
3、并发用户数
指系统能同时处理的并发用户请求数量

• 多CPU
• IO等待时间
  注意： 使用IO多路复用等待方式，系统在等待一个IO操作完成的这段时间内不需要被阻塞，可以处理其他事情，是的CPU利用率大大提高

性能优化

1、集群
将多台服务器组成集群，使得负载均衡将请求转发到集群中，避免单一服务器在负载压力过大导致性能降低。

2、缓存
缓存能够提高性能原因：

• 缓存数据通常位于内存等介质中，这种介质对于读操作特别快；
• 缓存数据可以位于靠近用户的地理位置上；
• 可以将计算结果进行缓存，从而避免重复计算。

3、异步
某些流程可以将操作转换操作为消息，将消息发送到消息队列之后立即返回，之后这个操作会被异步处理

伸缩性

指不断向群集中添加服务器来缓存不断上升的用户并发访问压力和不断增长的数据存储需求。

伸缩性与性能

如果系统存在性能问题，那么单个用户的请求总是很慢的；
如果系统存在伸缩性问题，那么单个用户请求可能会很快，但是在并发数很高情况下系统很慢。

实现伸缩性

应用服务器只要不具有状态，那么就可以很容易通过负载均衡向集群中添加新的服务器。

可用性

冗余

保证高可用的主要手段是使用冗余，当某个服务器故障时就请求其他服务器。

监控

对CPU、内存、磁盘、网络等系统负载信息进行监控，当某个数据达到一定阈值通知问题。