Java 线程池学习

Java 线程池学习

Reference: 《创建Java线程池》[1]，《Java线程：新特征-线程池》[2]， 《Java线程池学习》[3]，《线程池ThreadPoolExecutor使用简介》[4]，《Java5中的线程池实例讲解》[5]，《ThreadPoolExecutor使用和思考》[6]

[1]中博主自己通过ThreadGroup实现一个线程池（挺方便理解的），使用的是jdk1.4版本，Jdk1.5版本以上提供了现成的线程池。

[2]中介绍了java.util.concurrent.Executors类的API。

[3]中介绍了Java中线程池的类体系结构。

[4]中有ThreadPoolExecutor的实例应用。

[5]中有线程池的实例讲解，实现了一个基于线程池的端口监听服务器。★

[6]中有对源码比较细致的分析，而且排版不错( ^_^ )

 

Java里面线程池的顶级接口是Executor，但是严格意义上讲Executor并不是一个线程池，而只是一个执行线程的工具。真正的线程池接口是ExecutorService。下面这张图完整描述了线程池的类体系结构。

 

标记一下比较重要的类：

ExecutorService：	真正的线程池接口。
ScheduledExecutorService	能和Timer/TimerTask类似，解决那些需要任务重复执行的问题。
ThreadPoolExecutor	ExecutorService的默认实现。
ScheduledThreadPoolExecutor	继承ThreadPoolExecutor的ScheduledExecutorService接口实现，周期性任务调度的类实现。

要配置一个线程池是比较复杂的，尤其是对于线程池的原理不是很清楚的情况下，很有可能配置的线程池不是较优的，因此在Executors类里面提供了一些静态工厂，生成一些常用的线程池。

• newSingleThreadExecutor：创建一个单线程的线程池。这个线程池只有一个线程在工作，也就是相当于单线程串行执行所有任务。如果这个唯一的线程因为异常结束，那么会有一个新的线程来替代它。此线程池保证所有任务的执行顺序按照任务的提交顺序执行。
• newFixedThreadPool：创建固定大小的线程池。每次提交一个任务就创建一个线程，直到线程达到线程池的最大大小。线程池的大小一旦达到最大值就会保持不变，如果某个线程因为执行异常而结束，那么线程池会补充一个新线程。
• newCachedThreadPool：创建一个可缓存的线程池。如果线程池的大小超过了处理任务所需要的线程，那么就会回收部分空闲（60秒不执行任务）的线程，当任务数增加时，此线程池又可以智能的添加新线程来处理任务。此线程池不会对线程池大小做限制，线程池大小完全依赖于操作系统（或者说JVM）能够创建的最大线程大小。
• newScheduledThreadPool：创建一个大小无限的线程池。此线程池支持定时以及周期性执行任务的需求。
• newSingleThreadExecutor：创建一个单线程的线程池。此线程池支持定时以及周期性执行任务的需求。

那我个人感觉就是new ThreadPoolExecutor(CORE_POOL_SIZE, MAX_POOL_SIZE, KEEPALIVE_TIME, TIME_UNIT, workQueue, rejectedExecutionHandler)；提供了更定制化的线程池制造方法。因为newFixedThreadPool方法其实也是return new ThreadPoolExecutor

---

 

java.util.concurrent.Executors类的API提供大量创建连接池的静态方法：

1.固定大小的线程池：

package BackStage;

import java.util.concurrent.Executors;

import java.util.concurrent.ExecutorService;

public class JavaThreadPool {

    public static void main(String[] args) {

	// 创建一个可重用固定线程数的线程池

	ExecutorService pool = Executors.newFixedThreadPool(2);

	// 创建实现了Runnable接口对象，Thread对象当然也实现了Runnable接口

	Thread t1 = new MyThread();

	Thread t2 = new MyThread();

	Thread t3 = new MyThread();

	Thread t4 = new MyThread();

	Thread t5 = new MyThread();

	// 将线程放入池中进行执行

	pool.execute(t1);

	pool.execute(t2);

	pool.execute(t3);

	pool.execute(t4);

	pool.execute(t5);

	// 关闭线程池

	pool.shutdown();

    }

}

class MyThread extends Thread {

    @Override

    public void run() {

	System.out.println(Thread.currentThread().getName() + "正在执行。。。");

    }

}

2.单任务线程池：

//创建一个使用单个 worker 线程的 Executor，以无界队列方式来运行该线程。 

ExecutorService pool = Executors.newSingleThreadExecutor(); 

对于以上两种连接池，大小都是固定的，当要加入的池的线程(或者任务)超过池最大尺寸时候，则入此线程池需要排队等待。一旦池中有线程完毕，则排队等待的某个线程会入池执行。

[2]中还介绍了：3.可变尺寸的线程池newChahedThreadPool；4.延迟连接池；5.单任务延迟连接池；6.自定义线程池

 

 

ThreadPoolExecutor使用和思考(上)-线程池大小设置与BlockingQueue的三种实现区别

博客分类：

 
• 多线程与并发编程

JDK 应用服务器 F# thread 

工作中多处接触到了ThreadPoolExecutor。趁着现在还算空，学习总结一下。

 

前记：

 

1. jdk官方文档（javadoc）是学习的最好，最权威的参考。
2. 文章分上中下。上篇中主要介绍ThreadPoolExecutor接受任务相关的两方面入参的意义和区别，池大小参数corePoolSize和maximumPoolSize，BlockingQueue选型（SynchronousQueue，LinkedBlockingQueue，ArrayBlockingQueue）；中篇中主要聊聊与keepAliveTime这个参数相关的话题；下片中介绍一下一些比较少用的该类的API，及他的近亲：ScheduledThreadPoolExecutor。
3. 如果理解错误，请直接指出。

 

 

查看JDK帮助文档，可以发现该类比较简单，继承自AbstractExecutorService，而AbstractExecutorService实现了ExecutorService接口。

 

ThreadPoolExecutor的完整构造方法的签名是：

 

ThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, TimeUnit unit, BlockingQueue<Runnable> workQueue, ThreadFactory threadFactory, RejectedExecutionHandler handler) 

 

先记着，后面慢慢解释。

 

===============================神奇分割线==================================

 

其实对于ThreadPoolExecutor的构造函数网上有N多的解释的，大多讲得都很好，不过我想先换个方式，从Executors这个类入手。因为他的几个构造工厂构造方法名字取得令人很容易了解有什么特点。但是其实Executors类的底层实现便是ThreadPoolExecutor！

 

ThreadPoolExecutor是Executors类的底层实现。

 

在JDK帮助文档中，有如此一段话：

“强烈建议程序员使用较为方便的 Executors 工厂方法 Executors.newCachedThreadPool()（无界线程池，可以进行自动线程回收）、Executors.newFixedThreadPool(int)（固定大小线程池）和Executors.newSingleThreadExecutor()（单个后台线程），它们均为大多数使用场景预定义了设置。”

 

可以推断出ThreadPoolExecutor与Executors类必然关系密切。

 

===============================神奇分割线==================================

 

 

OK，那就来看看源码吧，从newFixedThreadPool开始。

 

ExecutorService newFixedThreadPool(int nThreads):固定大小线程池。

 

可以看到，corePoolSize和maximumPoolSize的大小是一样的（实际上，后面会介绍，如果使用无界queue的话maximumPoolSize参数是没有意义的），keepAliveTime和unit的设值表名什么？-就是该实现不想keep alive！最后的BlockingQueue选择了LinkedBlockingQueue，该queue有一个特点，他是无界的。

 

public static ExecutorService newFixedThreadPool(int nThreads) {
        return new ThreadPoolExecutor(nThreads, nThreads,
                                      0L, TimeUnit.MILLISECONDS,
                                      new LinkedBlockingQueue<Runnable>());
    }

 

ExecutorService newSingleThreadExecutor()：单线程。

 

可以看到，与fixedThreadPool很像，只不过fixedThreadPool中的入参直接退化为1

 

 

public static ExecutorService newSingleThreadExecutor() {
        return new FinalizableDelegatedExecutorService
            (new ThreadPoolExecutor(1, 1,
                                    0L, TimeUnit.MILLISECONDS,
                                    new LinkedBlockingQueue<Runnable>()));
    }

 

 

ExecutorService newCachedThreadPool()：无界线程池，可以进行自动线程回收。

 

这个实现就有意思了。首先是无界的线程池，所以我们可以发现maximumPoolSize为big big。其次BlockingQueue的选择上使用SynchronousQueue。可能对于该BlockingQueue有些陌生，简单说：该QUEUE中，每个插入操作必须等待另一个

线程的对应移除操作。比如，我先添加一个元素，接下来如果继续想尝试添加则会阻塞，直到另一个线程取走一个元素，反之亦然。（想到什么？就是缓冲区为1的生产者消费者模式^_^）

注意到介绍中的自动回收线程的特性吗，为什么呢？先不说，但注意到该实现中corePoolSize和maximumPoolSize的大小不同。

 

 

public static ExecutorService newCachedThreadPool() {
        return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
                                      60L, TimeUnit.SECONDS,
                                      new SynchronousQueue<Runnable>());
    }

 

===============================神奇分割线==================================

 

到此如果有很多疑问，那是必然了（除非你也很了解了）

 

先从BlockingQueue<Runnable> workQueue这个入参开始说起。在JDK中，其实已经说得很清楚了，一共有三种类型的queue。以下为引用：（我会稍微修改一下，并用红色突出显示）

 

 

所有  BlockingQueue 都可用于传输和保持提交的任务。可以使用此队列与池大小进行交互：

• 如果运行的线程少于 corePoolSize，则 Executor 始终首选添加新的线程，而不进行排队。（什么意思？如果当前运行的线程小于corePoolSize，则任务根本不会存放，添加到queue中，而是直接抄家伙（thread）开始运行）
• 如果运行的线程等于或多于 corePoolSize，则 Executor 始终首选将请求加入队列，而不添加新的线程。
• 如果无法将请求加入队列，则创建新的线程，除非创建此线程超出 maximumPoolSize，在这种情况下，任务将被拒绝。

先不着急举例子，因为首先需要知道queue上的三种类型。

 

排队有三种通用策略：

1. 直接提交。工作队列的默认选项是 SynchronousQueue，它将任务直接提交给线程而不保持它们。在此，如果不存在可用于立即运行任务的线程，则试图把任务加入队列将失败，因此会构造一个新的线程。此策略可以避免在处理可能具有内部依赖性的请求集时出现锁。直接提交通常要求无界 maximumPoolSizes 以避免拒绝新提交的任务。当命令以超过队列所能处理的平均数连续到达时，此策略允许无界线程具有增长的可能性。
2. 无界队列。使用无界队列（例如，不具有预定义容量的 LinkedBlockingQueue）将导致在所有 corePoolSize 线程都忙时新任务在队列中等待。这样，创建的线程就不会超过 corePoolSize。（因此，maximumPoolSize 的值也就无效了。）当每个任务完全独立于其他任务，即任务执行互不影响时，适合于使用无界队列；例如，在 Web 页服务器中。这种排队可用于处理瞬态突发请求，当命令以超过队列所能处理的平均数连续到达时，此策略允许无界线程具有增长的可能性。
3. 有界队列。当使用有限的 maximumPoolSizes 时，有界队列（如 ArrayBlockingQueue）有助于防止资源耗尽，但是可能较难调整和控制。队列大小和最大池大小可能需要相互折衷：使用大型队列和小型池可以最大限度地降低 CPU 使用率、操作系统资源和上下文切换开销，但是可能导致人工降低吞吐量。如果任务频繁阻塞（例如，如果它们是 I/O 边界），则系统可能为超过您许可的更多线程安排时间。使用小型队列通常要求较大的池大小，CPU 使用率较高，但是可能遇到不可接受的调度开销，这样也会降低吞吐量。  

 

===============================神奇分割线==================================

 

到这里，该了解的理论已经够多了，可以调节的就是corePoolSize和maximumPoolSizes 这对参数还有就是BlockingQueue的选择。

 

例子一：使用直接提交策略，也即SynchronousQueue。

 

首先SynchronousQueue是无界的，也就是说他存数任务的能力是没有限制的，但是由于该Queue本身的特性，在某次添加元素后必须等待其他线程取走后才能继续添加。在这里不是核心线程便是新创建的线程，但是我们试想一样下，下面的场景。

 

我们使用一下参数构造ThreadPoolExecutor：

 

 

new ThreadPoolExecutor(
            2, 3, 30, TimeUnit.SECONDS,
            new <span style="white-space: normal;">SynchronousQueue</span><Runnable>(),
            new RecorderThreadFactory("CookieRecorderPool"),
            new ThreadPoolExecutor.CallerRunsPolicy());

 当核心线程已经有2个正在运行.

 

1. 此时继续来了一个任务（A），根据前面介绍的“如果运行的线程等于或多于 corePoolSize，则 Executor 始终首选将请求加入队列，而不添加新的线程。”,所以A被添加到queue中。
2. 又来了一个任务（B），且核心2个线程还没有忙完，OK，接下来首先尝试1中描述，但是由于使用的SynchronousQueue，所以一定无法加入进去。
3. 此时便满足了上面提到的“如果无法将请求加入队列，则创建新的线程，除非创建此线程超出maximumPoolSize，在这种情况下，任务将被拒绝。”，所以必然会新建一个线程来运行这个任务。
4. 暂时还可以，但是如果这三个任务都还没完成，连续来了两个任务，第一个添加入queue中，后一个呢？queue中无法插入，而线程数达到了maximumPoolSize，所以只好执行异常策略了。

所以在使用SynchronousQueue通常要求maximumPoolSize是无界的，这样就可以避免上述情况发生（如果希望限制就直接使用有界队列）。对于使用SynchronousQueue的作用jdk中写的很清楚： 此策略可以避免在处理可能具有内部依赖性的请求集时出现锁。

 

什么意思？如果你的任务A1，A2有内部关联，A1需要先运行，那么先提交A1，再提交A2，当使用SynchronousQueue我们可以保证，A1必定先被执行，在A1么有被执行前，A2不可能添加入queue中

 

例子二：使用无界队列策略，即LinkedBlockingQueue

 

这个就拿 newFixedThreadPool来说，根据前文提到的规则：

 写道

如果运行的线程少于 corePoolSize，则 Executor 始终首选添加新的线程，而不进行排队。

 那么当任务继续增加，会发生什么呢？

 写道

 

如果运行的线程等于或多于 corePoolSize，则 Executor 始终首选将请求加入队列，而不添加新的线程。

 OK，此时任务变加入队列之中了，那什么时候才会添加新线程呢？

 

 写道

如果无法将请求加入队列，则创建新的线程，除非创建此线程超出 maximumPoolSize，在这种情况下，任务将被拒绝。

这里就很有意思了，可能会出现无法加入队列吗？不像SynchronousQueue那样有其自身的特点，对于无界队列来说，总是可以加入的（资源耗尽，当然另当别论）。换句说，永远也不会触发产生新的线程！corePoolSize大小的线程数会一直运行，忙完当前的，就从队列中拿任务开始运行。所以要防止任务疯长，比如任务运行的实行比较长，而添加任务的速度远远超过处理任务的时间，而且还不断增加，如果任务内存大一些，不一会儿就爆了，呵呵。

 

可以仔细想想哈。

 

例子三：有界队列，使用ArrayBlockingQueue。

 

这个是最为复杂的使用，所以JDK不推荐使用也有些道理。与上面的相比，最大的特点便是可以防止资源耗尽的情况发生。

 

举例来说，请看如下构造方法：

 

new ThreadPoolExecutor(
            2, 4, 30, TimeUnit.SECONDS,
            new ArrayBlockingQueue<Runnable>(2),
            new RecorderThreadFactory("CookieRecorderPool"),
            new ThreadPoolExecutor.CallerRunsPolicy());

假设，所有的任务都永远无法执行完。

 

对于首先来的A,B来说直接运行，接下来，如果来了C,D，他们会被放到queu中，如果接下来再来E,F，则增加线程运行E，F。但是如果再来任务，队列无法再接受了，线程数也到达最大的限制了，所以就会使用拒绝策略来处理。

 

总结：

1. ThreadPoolExecutor的使用还是很有技巧的。
2. 使用无界queue可能会耗尽系统资源。
3. 使用有界queue可能不能很好的满足性能，需要调节线程数和queue大小
4. 线程数自然也有开销，所以需要根据不同应用进行调节。

通常来说对于静态任务可以归为：

1. 数量大，但是执行时间很短
2. 数量小，但是执行时间较长
3. 数量又大执行时间又长
4. 除了以上特点外，任务间还有些内在关系

看完这篇问文章后，希望能够可以选择合适的类型了