都在说并发,啥是并发?

都在说并发,啥是并发?


明确概念

当我初入IT行业时,被各种“大神”说教。都在谈并发,有的说自己的并发几十万,有的说自己并发几千万,当时我是懵逼的。
要反忽悠,首先要明确并发的概念。
究竟啥是并发?

  • 并发概念太模糊,这里以两种可以量化的指标并发连接数和并发请求数来说明。
  • 并发连接数是指服务器当前时刻一共维持了多少TCP连接,而这些连接上是否有数据通讯并不关注,例如一台消息推送服务器上可能维持了百万的设备连接,由于连接上很少有数据通讯,所以这台服务器上负载可能几乎为0,只要内存足够,还可以继续接受连接。
  • 并发请求数一般用QPS(服务器每秒处理多少请求)来衡量,而当前时刻服务器上有多少个tcp连接并不十分关注。例如一台服务器只有10个客户端连接,每个客户端连接上每秒有1W个请求,那么要求服务端需要至少能支撑10*1W=10W每秒的吞吐量(QPS)。假设10W吞吐量每秒是这台服务器的极限,如果每个客户端每秒发送1个请求给服务端,那么这台服务器能够支撑10W个客户端。

并发受什么因素的影响?

  • 并发连接数受限于服务器内存,一般24G内存服务器可以支持大概120W并发连接。
  • 并发请求数受限于服务器cpu处理能力,一台24核服务器可以达到45W每秒的吞吐量(QPS),实际值根据业务复杂度以及代码质量有所变化。

请不要纠结数据,我只是以我的数据作为参考向大家讲解这个概念,要以你的压力测试结果为准。


你可能感兴趣的:(TCP/IP,高并发应对之策)