【生产事故】多线程性能优化的坑，99%的人都踩了.....

当我们在处理慢接口问题时，经常将能够并行处理的任务拆分到不同的线程中处理，等任务处理完成后，再收集各线程的处理结果

这样可以将并行部分的总耗时大大降低！

1.1. 案例

那比如说我们像这样的一个接口，在这个里面呢我们先查询用户姓名，查积分的一个系统，查用户券系统。所以说呢我们收集各个线程处理的一个结果，这样呢可以将我们的耗时呢大大降低。

但是在流量增大的一个过程中呢，我们的接口耗时却逐渐增大了，甚至远超串行处理的一个耗时。甚至有些请求呢直接抛出了拒绝执行异常。

那之前呢也给大家分享过这样的一个图，当我们的浏览器发送请求，比如说100个并发进入我们tom pad的服务器。然后呢我们后端服务器开启了多线程，其实是相当于我们这边有300的处理。

那今天呢我们从线程池的配置上入手，看能不能进一步优化。

那目前我们线程池的配置呢是这样子的 配置如下：

int coreSize = Runtime.getRuntime().availableProcessors();  
executorService = new ThreadPoolExecutor(coreSize, coreSize * 5,  
        5L, TimeUnit.MINUTES,  
        new LinkedBlockingQueue(1024)  
        );  

核心配置为：

1. 核心线程数为 cpu 核数

2. 最大线程数为 cpu 核数的 5 倍

3. 空闲线程存活时间为 5 分钟

4. 任务队列为 LinkedBlockingQueue 大小为 1024

在这个配置下，我们推演下线程池的执行流程！

1.2.1. 线程资源充足

1. 主线程向线程池提交 Task

2. 由于线程处于空闲状态，立即接受并处理问题

3. 线程池线程处理完任务，将最终的处理结果写回到 Future

4. 主线程等待所有任务执行完成，获取所有执行结果，然后执行后续流程

这正是想要的执行结果，任务被并行执行，大幅降低接口耗时。

1.2.2. 任务进入等待队列

随着流量的增加，所有的核心线程都处于忙碌状态，此时新任务将进入等待队列，具体如下：

整体流入如下：

1. 主线程向线程池提交任务

2. 由于没有核心线程可用，任务被放置到任务队列

3. 主线程进入等待状态，等待时间包括两部分：

   • 任务在队列中等待线程调度时间

   • 任务分配到线程后，任务实际执行时间

4. 如果前面等待的任务非常多，那等待时间将变的非常长

主线程等待时间 = 队列等待时间 + 任务执行时间。当任务队列非常长时，整体时间将远超串行执行时间。

1.2.3. 资源耗尽触发拒绝策略

流量继续增加，线程池的任务队列已满并且线程数量也达到上限，此时会触发拒绝策略，具体如下：

线程池默认拒绝策略为：AbortPolicy，直接抛出 RejectedExecutionException，从而触发接口异常。

还有更可怕的情况，就是部分提交，也就是主线程已经成功提交几个任务，如下图所示：

核心流程如下：

1. 主线程已经成功提交两个任务

2. 在提交第三个任务时，由于资源不够触发拒绝策略，抛出异常导致主线程提前结束

3. 已经成功提交的任务仍旧会被线程执行，由于主线程已经退出，执行结果没有任何意义，从而白白浪费系统资源

2解决方案

前面已经分析的很清楚，问题的本质就是线程池资源分配不合理，核心参数设置错误：

1. 队列设置错误。 在该场景下，需要充分利用线程资源，将任务放入队列会增加任务在队列的等待时间，队列长度越大对系统的伤害越大；

2. 拒绝策略设置错误。 直接抛出异常会中断主流程，导致部分无效任务（无意义任务）提交，白白浪费系统资源；

除线程池参数问题外，还有个小问题：主线程完成任务提交后处于等待状态，未执行任何有意义的操作，存在资源浪费。

2.1. 线程池改进方案

改进线程池如下所示：

int coreSize = Runtime.getRuntime().availableProcessors();  
executorService = new ThreadPoolExecutor(coreSize, coreSize * 5,  
        5L, TimeUnit.MINUTES,  
        new SynchronousQueue<>(),  
        new ThreadPoolExecutor.CallerRunsPolicy()  
        );  

线程池配置如下：

1. 使用 SynchronousQueue 替代 LinkedBlockingQueue(1024)。SynchronousQueue 是一个特殊的队列，其最大容量是1。也就是说，任何一次插入操作都必须等待一个相应的删除操作，反之亦然。如果没有相应的操作正在进行，则该线程将被阻塞；

2. 指定拒绝策略为 CallerRunsPolicy。当线程池资源不够时，由主线程来执行任务；

总体来说就一句话：线程池有资源可用，那就为主线程分担部分压力；如果没有资源可用，那就由主线程独自完成。

2.2. 充分利用主线程

在资源充足情况下，所有任务均有线程池线程完成，

主线程却处于等待状态，存在一定的资源浪费。

3 个任务耗费 4 个线程资源：

• 线程池3个线程负责执行任务

• 主线程等待执行结果，一直处于阻塞状态

为了充分利用线程资源，主线程不在盲目等待，也负责一个任务的执行，这样 3 个任务只需 3 个线程即可。

最后说一句(求关注!别白嫖！)

如果这篇文章对您有所帮助，或者有所启发的话，求一键三连：点赞、转发、在看。

关注公众号：woniuxgg，在公众号中回复：笔记  就可以获得蜗牛为你精心准备的java实战语雀笔记，回复面试、开发手册、有超赞的粉丝福利！