吞吐量、QPS（TPS）、并发数、RT性能指标理解

吞吐量

在了解 QPS(TPS)，RT，并发数之前，先明确一个概念，系统的吞吐量是指什么？一般来说，系统的吞吐量是指系统的抗压、负载能力，指的是单位时间内处理的请求数量。通常情况下，吞吐率用 “字节数/秒” 来衡量，也可以用 “请求数/秒”，“页面数/秒”，其实，不管是一个请求还是一个页面，本质都是网络上传输的数据，那么表示数据的单位就是字节数。

系统吞吐量的几个重要参数：QPS（TPS），并发数，响应时间等，系统的吞吐量通常由这几个参数值来决定。

---

QPS

Queries Per Second，每秒查询数，即是每秒能够响应的查询次数，注意这里的查询是指用户发出请求到服务器做出响应成功的次数，简单理解可以认为查询=请求request

qps = 每秒钟request数量

---

TPS

Transactions Per Second ，每秒处理的事务数。一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时，收到服务器响应后结束计时，以此来计算使用的时间和完成的事务个数。
针对单接口而言，TPS可以认为是等价于QPS的，比如访问一个页面/index.html，是一个TPS，而访问/index.html页面可能请求了3次服务器比如css、js、index接口，产生了3个QPS。

tps = 每秒钟事务数量

---

并发数

并发数是指系统同时能处理的请求数量，反映了系统的负载能力。

并发数 = 系统同时处理的request/事务数

---

响应时间RT

Response Time，简单理解为系统从输入到输出的时间间隔，宽泛的来说，代表从客户端发起请求到服务端接收到请求并响应所有数据的时间差。一般取平均响应时间。

---

QPS，RT，并发数三者关系

QPS = 并发数 / 评价响应时间

一个系统吞吐量通常由QPS（TPS）、并发数两个因素决定，每套系统这两个值都有一个相对极限值，在应用场景访问压力下，只要某一项达到系统最高值，系统的吞吐量就上不去了，如果压力继续增大，系统的吞吐量反而会下降，原因是系统超负荷工作，上下文切换、内存等等其它消耗导致系统性能下降。