吞吐量(Throughput)、QPS、并发数、响应时间(RT)

  1. 吞吐量:系统在单位时间内处理请求的数量,是并发系统的一个重要的性能指标。
  2. QPS(每秒查询率 Query Per Second):对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准,在因特网上,作为域名系统服务器的机器的性能经常用每秒查询率来衡量。对应fetches/sec,即每秒的响应请求数,也即是最大吞吐能力。 
  3. 并发数:指系统可以同时承载的正常使用系统功能的用户的数量。与吞吐量相比,并发用户数是一个更直观但也更笼统的性能指标。
  4. 响应时间:系统对请求作出响应的时间。
QPS提升带来什么?QPS提升说明单台服务器处理能力提升,如果QPS提升1倍,服务器资源减少1半,或者说服务器不变可以支撑2倍的请求量。 
如何提升QPS? 
1)减少CPU的使用时间(哪些代码会消耗CPU:循环、字符串拼接\查找\替换、编码\解码、序列化\反序列化、压缩) 
2)增加CPU的数量 
3)减少同步锁 
(如果CPU不能被压到85%以上,并且此时的QPS已经达到了峰值,则说明另有瓶颈,接下去关注内存) 
RT提升带来什么? 
响应速度提升说明单词请求的处理速度提升,用户感觉任务处理速度更快,系统反应速度更快。当然在处理能力不变的情况下,RT的提升必然会提升QPS。 
如何提升RT? 
1)减少I/O的响应时间 
2)减少I/O的调用次数 
3)减少CPU使用时间(当然在I/O占大头的应用里,这方面优化效果肯定不明显) 

你可能感兴趣的:(吞吐量(Throughput)、QPS、并发数、响应时间(RT))