Java面试知识点（七十三）线程池

一、 线程池的实现原理

1. 线程池处理流程
   

---

2. 线程池执行的四种情况：
   1）如果当前运行的线程少于 corePoolSize，则创建新线程来执行任务（注意，执行这一步骤需要获取全局锁）。
   2）如果运行的线程等于或多于 corePoolSize，则将任务加入 BlockingQueue。
   3）如果无法将任务加入 BlockingQueue（队列已满），则创建新的线程来处理任务（注意，执行这一步骤需要获取全局锁）。
   4）如果创建新线程将使当前运行的线程超出 maximumPoolSize，任务将被拒绝，并调用
   RejectedExecutionHandler.rejectedExecution () 方法。
   
   注意：ThreadPoolExecutor 采取上述步骤的总体设计思路，是为了在执行 execute () 方法时，尽可能 地避免获取全局锁（那将会是一个严重的可伸缩瓶颈）。在 ThreadPoolExecutor 完成预热之后 （当前运行的线程数大于等于 corePoolSize），几乎所有的 execute () 方法调用都是执行步骤 2，而步骤 2 不需要获取全局锁。

---

3. 任务执行

• 线程池创建线程时，会将线程封装成工作线程 Worker，Worker 在执行完任务后，还会循环获取工作队列里的任务来执行。我们可以从 Worker 类的 run () 方法里看到这点。
• 线程池中的线程执行任务分两种情况，如下。
  1）在 execute () 方法中创建一个线程时，会让这个线程执行当前任务。
  2）这个线程执行完上图中 1 的任务后，会反复从 BlockingQueue 获取任务来执行。

---

二、线程池的使用

1.创建

Java 中创建线程池很简单，只需要调用 Executors 中相应的便捷方法即可，比如

Executors.newFixedThreadPool(int nThreads)，

但是便捷不仅隐藏了复杂性，也为我们埋下了潜在的隐患（OOM，线程耗尽）。小程序使用这些快捷方法没什么问题，对于服务端需要长期运行的程序，创建线程池应该直接使用 ThreadPoolExecutor 的构造方法。没错，上述 Executors 方法创建的线程池就是 ThreadPoolExecutor。

所以我们可以通过 ThreadPoolExecutor 来创建一个线程池。

// Java线程池的完整构造函数
public ThreadPoolExecutor(
  int corePoolSize, // 线程池长期维持的线程数，即使线程处于Idle状态，也不会回收。
  int maximumPoolSize, // 线程数的上限
  long keepAliveTime, TimeUnit unit, // 超过corePoolSize的线程的idle时长，
                                     // 超过这个时间，多余的线程会被回收。
  BlockingQueue<Runnable> workQueue, // 任务的排队队列
  ThreadFactory threadFactory, // 新线程的产生方式
  RejectedExecutionHandler handler) // 拒绝策略

new ThreadPoolExecutor(corePoolSize,
maximumPoolSize,
keepAliveTime,milliseconds,
runnableTaskQueue, 
handler)

创建一个线程池时需要输入几个参数，如下

1）corePoolSize（线程池的基本大小）：当提交一个任务到线程池时，线程池会创建一个线程来执行任务，即使其他空闲的基本线程能够执行新任务也会创建线程，等到需要执行的任务数大于线程池基本大小时就不再创建。如果调用了线程池的 prestartAllCoreThreads () 方法，线程池会提前创建并启动所有基本线程。

2）runnableTaskQueue（任务队列）：用于保存等待执行的任务的阻塞队列。可以选择以下几个阻塞队列。

• ArrayBlockingQueue：是一个基于数组结构的有界阻塞队列，此队列按 FIFO（先进先出）原则对元素进行排序。
• LinkedBlockingQueue：一个基于链表结构的阻塞队列，此队列按 FIFO 排序元素，吞吐量通常要高于 ArrayBlockingQueue。静态工厂方法 - Executors.newFixedThreadPool () 使用了这个队列。
• SynchronousQueue：一个不存储元素的阻塞队列。每个插入操作必须等到另一个线程调用 移除操作，否则插入操作一直处于阻塞状态，吞吐量通常要高于 LinkedBlockingQueue，静态工厂方法 Executors.newCachedThreadPool 使用了这个队列。
• PriorityBlockingQueue：一个具有优先级的无限阻塞队列。

3）maximumPoolSize（线程池最大数量）：线程池允许创建的最大线程数。如果队列满了，并且已创建的线程数小于最大线程数，则线程池会再创建新的线程执行任务。值得注意的是，如果使用了无界的任务队列这个参数就没什么效果。

4）ThreadFactory：用于设置创建线程的工厂，可以通过线程工厂给每个创建出来的线程设 置更有意义的名字。使用开源框架 guava 提供的 ThreadFactoryBuilder 可以快速给线程池里的线 程设置有意义的名字，代码如下。new ThreadFactoryBuilder ().setNameFormat (“XX-task-% d”).build ();

5）RejectedExecutionHandler（饱和策略）：当队列和线程池都满了，说明线程池处于饱和状态，那么必须采取一种策略处理提交的新任务。这个策略默认情况下是 AbortPolicy，表示无法处理新任务时抛出异常。在 JDK 1.5 中 Java 线程池框架提供了以下 4 种策略。・AbortPolicy：直接抛出异常（默认策略）。・CallerRunsPolicy：只用调用者所在线程来运行任务。・DiscardOldestPolicy：丢弃队列里最老的一个任务，尝试为当前提交的任务腾出位置 。・DiscardPolicy：不处理，丢弃掉。 当然，也可以根据应用场景需要来实现 RejectedExecutionHandler 接口自定义策略。如记录日志或持久化存储不能处理的任务。

6）AliveTime（线程活动保持时间）：线程池的工作线程空闲后，保持存活的时间。所以， 如果任务很多，并且每个任务执行的时间比较短，可以调大时间，提高线程的利用率。

7）TimeUnit（线程活动保持时间的单位）：可选的单位有天（DAYS）、小时（HOURS）、分钟（MINUTES）、毫秒（MILLISECONDS）、微秒（MICROSECONDS，千分之一毫秒）和纳秒（NANOSECONDS），千分之一微秒。

---

因此创建线程池有两种方式

// 第一种方式——快捷方式
ThreadPoolExecutor pool =
                (ThreadPoolExecutor) Executors.newFixedThreadPool(10);

// 第二种方式——标准方式
// 设定各种参数
ThreadPoolExecutor pool2 = new ThreadPoolExecutor(args);

---

以运营一家装修公司做个比喻。
公司在办公地点等待客户来提交装修请求；公司有固定数量的正式工以维持运转；旺季业务较多时，新来的客户请求会被排期，比如接单后告诉用户一个月后才能开始装修；当排期太多时，为避免用户等太久，公司会通过某些渠道（比如人才市场、熟人介绍等）雇佣一些临时工（注意，招聘临时工是在排期排满之后）；如果临时工也忙不过来，公司将决定不再接收新的客户，直接拒单。

线程池就是程序中的 “装修公司”，代劳各种脏活累活。上面的过程对应到线程池上：

// Java线程池的完整构造函数
public ThreadPoolExecutor(
  int corePoolSize, // 正式工数量
  int maximumPoolSize, // 工人数量上限，包括正式工和临时工
  long keepAliveTime, TimeUnit unit, // 临时工游手好闲的最长时间，超过这个时间将被解雇
  BlockingQueue<Runnable> workQueue, // 排期队列
  ThreadFactory threadFactory, // 招人渠道
  RejectedExecutionHandler handler) // 拒单方式

---

2.向线程池提交任务

可以向线程池提交的任务有两种：Runnable 和 Callable，Callable 是 JDK1.5 时加入的接口，作为 Runnable 的一种补充，允许有返回值，允许抛出异常。二者的区别如下：

• 方法签名不同，void Runnable.run(), V Callable.call() throws Exception
• 是否允许有返回值，Callable 允许有返回值
• 是否允许抛出异常，Callable 允许抛出异常。

可以使用两个方法向线程池提交任务，分别为 execute () 和 submit () 方法。

• execute() 方法用于提交不需要返回值的任务，所以无法判断任务是否被线程池执行成功。 通过以下代码可知 execute () 方法输入的任务是一个 Runnable 类的实例。

threadsPool.execute(new Runnable() {
  @Override
  public void run() {
      // TODO Auto-generated method stub
  }
});

• submit() 方法用于提交需要返回值的任务。线程池会返回一个 future 类型的对象，通过这个 future 对象可以判断任务是否执行成功，并且可以通过 future 的 get () 方法来获取返回值，get () 方法会阻塞当前线程直到任务完成，而使用 get (long timeout, TimeUnit unit) 方法则会阻塞当前线程一段时间后立即返回，这时候有可能任务没有执行完。

Future<Object> future = executor.submit(harReturnValuetask);
try {
  Object s = future.get();
} catch (InterruptedException e) {
// 处理中断异常
} catch (ExecutionException e) {
// 处理无法执行任务异常
} finally {
// 关闭线程池
  executor.shutdown();
}

---

3.获取结果

• 获取单个结果
  过 submit() 向线程池提交任务后会返回一个 Future，调用 V Future.get() 方法能够阻塞等待执行结果，V get(long timeout, TimeUnit unit) 方法可以指定等待的超时时间。

• 获取多个结果
  如果向线程池提交了多个任务，要获取这些任务的执行结果，可以依次调用 Future.get() 获得。但对于这种场景，我们更应该使用 ExecutorCompletionService，该类的 take() 方法总是阻塞等待某一个任务完成，然后返回该任务的 Future 对象。向 CompletionService 批量提交任务后，只需调用相同次数的 CompletionService.take() 方法，就能获取所有任务的执行结果，获取顺序是任意的，取决于任务的完成顺序

void solve(Executor executor, Collection<Callable<Result>> solvers)
   throws InterruptedException, ExecutionException {
   
   CompletionService<Result> ecs = new ExecutorCompletionService<Result>(executor);// 构造器
   
   for (Callable<Result> s : solvers)// 提交所有任务
       ecs.submit(s);
       
   int n = solvers.size();
   for (int i = 0; i < n; ++i) {// 获取每一个完成的任务
       Result r = ecs.take().get();
       if (r != null)
           use(r);
   }
}

---

4.关闭线程池

可以通过调用线程池的 shutdown 或 shutdownNow 方法来关闭线程池。

它们的原理是遍历线 程池中的工作线程，然后逐个调用线程的 interrupt 方法来中断线程，所以无法响应中断的任务可能永远无法终止。

但是它们存在一定的区别，

• shutdownNow 首先将线程池的状态设置成 STOP，然后尝试停止所有的正在执行或暂停任务的线程，并返回等待执行任务的列表，
• shutdown 只是将线程池的状态设置成 SHUTDOWN 状态，然后中断所有没有正在执行任务的线程。

只要调用了这两个关闭方法中的任意一个，isShutdown 方法就会返回 true。当所有的任务 都已关闭后，才表示线程池关闭成功，这时调用 isTerminaed 方法会返回 true。至于应该调用哪一种方法来关闭线程池，应该由提交到线程池的任务特性决定，通常调用 shutdown 方法来关闭线程池，如果任务不一定要执行完，则可以调用 shutdownNow 方法。

---

三、合理地配置线程池

任务的性质：CPU 密集型任务、IO 密集型任务和混合型任务。

• CPU 密集型任务：主要是执行计算任务，响应时间很快，cpu 一直在运行，这种任务 cpu 的利用率很高，线程个数为 CPU 核数。这几个线程可以并行执行，不存在线程切换到开销，提高了 cpu 的利用率的同时也减少了切换线程导致的性能损耗
• IO 密集型任务：主要是进行 IO 操作，执行 IO 操作的时间较长，这是 cpu 出于空闲状态，导致 cpu 的利用率不高，线程个数为 CPU 核数的两倍。到其中的线程在 IO 操作的时候，其他线程可以继续用 cpu，提高了 cpu 的利用率

性质不同的任务可以用不同规模的线程池分开处理。CPU密集型任务应配置尽可能少的 线程，如配置Ncpu+1个线程的线程池。由于IO密集型任务线程并不是一直在执行任务，则应配置尽可能多的线程，如2*Ncpu。混合型的任务，如果可以拆分，将其拆分成一个CPU密集型任务和一个IO密集型任务，只要这两个任务执行的时间相差不是太大，那么分解后执行的吞吐量将高于串行执行的吞吐量。如果这两个任务执行时间相差太大，则没必要进行分解。

可以通过 Runtime.getRuntime ().availableProcessors () 方法获得当前设备的 CPU 个数。