java并发 - 线程池

线程池，从字面含义来看，是指管理一组同构工作线程的资源池。线程池是与工作队列（work queue）密切相关的，其中在工作队列中保存了所有等待执行的任务。工作者线程（worker thread）的任务很简单：从工作队列中获取一个任务，执行任务，然后返回线程池并等待下一个任务。
“在线程池中执行任务” 比 “为每个任务分配一个线程” 优势更多。通过重用现有的线程而不是创建新线程，可以在处理多个请求时分摊在线程创建和销毁过程中产生的巨大开销。另一个额外的好处时，当请求到达时，工作线程通常已经存在，因此不会由于等待创建线程而延迟任务的执行，从而提高了响应性。通过适当调整线程池的大小，可以创建足够多的线程以便使处理器保持忙碌状态，同时还可以防止过多线程相互竞争资源而使应用程序耗尽内存或失败。
类库提供了一个灵活的线程池以及一些有用的默认配置。可以通过调用Executors中的静态工厂方法之一来创建一个线程池：

newFixedThreadPool。newFixedThreadPool将创建一个固定长度的线程池，每当提交一个任务时就创建一个线程，直到达到线程池的最大数量，这时线程池的规模将不再变化（如果某个线程由于发生了未预期的Exception而结束，那么线程池会补充一个新的线程）。

newCachedThreadPool。newCachedThreadPool将创建一个可缓存的线程池，如果线程池的当前规模超过了处理需求时，那么将回收空闲的线程，而当需求增加时，则可以添加新的线程，线程池的规模不存在任何限制。

newSingleThreadExecutor。newSingleThreadExecutor是一个单线程的Executor，它创建单个工作者线程来执行任务，如果这个线程异常结束，会创建另一个线程来代替。newSingleThreadExecutor能确保依照任务在队列中的顺序来串行执行（例如FIFO、LIFO、优先级）

newScheduledThreadPool。newScheduledThreadPool 创建里一个固定长度的线程池，而且以延迟或定时的方式来执行任务，类似于Timer。

示例：基于Executor的web服务器

基于Executor来构造 Web 服务器时非常容易的。在程序中用Executor替代了硬编码的线程创建过程。在这种情况下使用了一种标准Executor实现，即一个固定长度的线程池，可以容纳100个线程。

package com.ly;

import java.io.IOException;
import java.net.ServerSocket;
import java.net.Socket;
import java.util.concurrent.Executor;
import java.util.concurrent.Executors;

public class TaskExecutionWebServer {
	private static final int NTHREADS = 100;
	private static final Executor exec = Executors.newFixedThreadPool(NTHREADS);
	
	public static void main(String[] args) throws IOException {
		ServerSocket socket = new ServerSocket(80);
		while(true) {
			final Socket connection = socket.accept();
			Runnable task = new Runnable() {
				
				@Override
				public void run() {
					handleRequest(connection);
				}
			};
			exec.execute(task);
		}
	}
}

Executor的声明周期

我们已经直到如何创建一个Executor，但并没有讨论如何关闭它。Executor的实现通常会创建线程来执行任务。JVM只有在所有（非守护）线程全部终止后才会退出。因此，如果无法正确的关闭Executor，那么JVM将无法结束。
由于Executor以异步方式来执行任务，因此在任何时刻，之前提交任务的状态不是立即可见的。有些任务可能已经完成，有些可能正在运行，而其他的任务可能在队列中等待执行。当关闭应用程序时，可能采用最平缓的关闭形式（完成所有已经启动的任务，并且不再接受任何新的任务），也可能采用最粗暴的关闭形式（直接关掉机房的电源），以及其他各种可能的形式。既然Executor是为应用程序提供服务的，因而他们也是可关闭的（无论采用平缓的方式还是粗暴的方式），并将再关闭操作中受影响的任务的状态反馈给应用程序。
为了解决执行服务的生命周期问题，Executor扩展了ExecutorService接口，添加了一些用于生命管理的方法（同时还有一些用于任务提交的便利方法）。在程序中给出了ExecutorService 中的生命周期管理方法。

public interface ExecutorService extends Executor {
	void shutdown();
	List<Runnable> shutdownNow();
	boolean isShutdown();
	boolean isTerminated();
	boolean awaitTermination(long timeout, TimeUnit unit)
		throws InterruptedException;
	// ......其他用于任务提交的便利方法
}

ExecutorService 的生命周期有3中状态：运行、关闭和已终止。ExecutorService 在初始创建时处于运行状态。shutdown方法将执行平缓的关闭过程：不再接受新的任务，同时等待已经提交的任务执行完成——包括那些还未开始执行的任务。shutdownNow 方法将执行粗暴的关闭过程：它将尝试取消所有运行中的任务，并且不再启动队列中尚未开始执行的任务。
在ExecutorService 关闭后提交的任务将由 “(Rejected Execution Handler)” 来处理，它会抛弃任务，或者使得 execute 方法抛出一个未检查的 RejectedExecutionException。 等所有任务都完成后，xiaoguExecutorService将转入终止状态。可以调用awaitTermination 来等待ExecutorService 到达终止状态，或者通过调用isTerminated 来轮询ExecutorService 是否已经终止。通常在调用awaitTermination 之后会立即调用shutdown，从而产生同步地关闭ExecutorService 的效果。

支持关闭操作的 Web 服务器

public class LifecycleWebServer {
	private final ExecutorService exec = Executors.newFixedThreadPool(100);
	
	public void start() throws IOException {
		ServerSocket socket = new ServerSocket(80);	
		while(!exec.isShutdown()) {
			try {
				final Socket conn = socket.accept();
				exec.execute(new Runnable() {

					@Override
					public void run() {
						handleRequest(conn);
					}
					
				});
			} catch (RejectedExecutionException e) {
				if(!exec.isShutdown())
					log("task submission rejected", e);
			}
		}
	}
	
	public void stop() {
		exec.shutdown();
	}
	
	void handleRequest(Socket connnection) {
		Request req = readRequest(connection);
		if(isShutdownRequest(req))
			stop();
		else
			dispatchRequest(req);
	}
}