如何提高服务器qps

QPS(TPS)= 并发数/平均响应时间 可以看出,要提高qps,我们必须做2个方面努力

1 增加并发数

  1.比如增加tomcat并发的线程数,开和服务器性能匹配的线程数,可以更多满足服务请求。

  2.增加数据库的连接数,预建立合适数量的TCP连接数

  3.后端服务尽量无状态话,可以更好支持横向扩容,满足更大流量要求

  4.调用链路上的各个系统和服务尽量不要单点,要从头到尾都是能力对等的,不能让其中某一点成为瓶颈。

  5.RPC调用的尽量使用线程池,预先建立合适的连接数。


2减少平均响应时间

  1.请求尽量越前结束,越好,这样压力就不要穿透到后面的系统上,可以在各个层上加上缓存

  2.流量消峰。放行适当的流量,处理不了的请求直接返回错误或者其他提示。和水坝道理很类似

  3.减少调用链

  4.优化程序

  5.减少网络开销,适当使用长连接

  6.优化数据库,建立索引


  最后,要优化的地方还有很多,上面只是列举常见一些要注意的地方,优化的指导原则就是增加并发数 和减少平均响应时间

作者:AskHarries

链接:https://juejin.im/post/5af645f651882567105fd1b2

你可能感兴趣的:(如何提高服务器qps)