如何提高并发-通篇讲解 Locust 性能测试

提高并发-小试牛刀

如何提高并发

1. 增加用户数量：为了充分利用目标系统，需要增加同时在线的用户数量，尤其是在每个请求耗时较长的情况下。
2. 检查系统资源利用情况：当响应时间出乎意料地高或随用户数量增加时上升，可能是系统达到饱和。此时需要检查以下方面：
   • 资源利用率（如CPU、内存、网络等，在Locust端也要检查这些指标）。
   • 配置情况（如Web服务器的最大线程数）。
   • 后端响应时间（如数据库响应时间）。
   • 客户端的DNS性能/防护措施（Locust通常会为每个用户至少进行一次DNS请求）。
3. CPU使用率过高的处理方法：
   • 运行分布式Locust，以利用多核和多台机器。
   • 尝试切换到FastHttpUser以减少CPU使用率。
   • 检查代码中是否存在异常或无限循环。
   • 如果使用自定义客户端（不是HttpUser或FastHttpUser），确保所用的客户端库与gevent兼容，否则将阻塞整个Python进程（本质上将用户数量限制为每个工作者一个）。

---

提高并发-登堂入室

具体如何提高WEB线程数目， 有何依据呢？

在Undertow服务器中，线程数量的设置主要取决于服务器的配置和你要处理的请求量。这里是如何设置线程数量的建议：

1. I/O线程数（ioThreads）：

• I/O线程负责处理网络事件（如接收请求和发送响应）。一般来说，I/O线程的数量应该设置为CPU核心数的2到4倍。
• 默认情况下，Undertow会自动将I/O线程数设置为可用CPU核心数。

Undertow.builder()
    .setIoThreads(8)  // 假设服务器有4个CPU核心，你可以设置为8
    .build();

2. 工作线程数（workerThreads）：

• 工作线程用于处理实际的请求和业务逻辑。默认情况下，Undertow将工作线程数设置为 I/O线程数 * 8。
• 如果你的应用程序处理的请求非常密集，且每个请求处理时间较长，可能需要增加工作线程的数量。

Undertow.builder()
    .setWorkerThreads(64)  // 基于默认的I/O线程数为8，设置工作线程数为64
    .build();

3. 线程池配置：