【Java】Fork/Join框架详解
一.Fork/Join框架是什么
Fork/Join框架是Java 7提供的一个用于并行执行任务的框架，是一个把大任务分割成若干个小任务，最终汇总每个小任务结果后得到大任务结果的框架（是不是有种D&C算法的感觉）。它使用工作窃取（work-stealing）算法，主要用于实现“分而治之”。
网上找的框架示意图
工作窃取算法介绍
工作窃取（work-stealing）算法优点是充分利用线程进行并行计算，并减少了线程间的竞争，其缺点是在某些情况下还是存在竞争，比如双端队列里只有一个任务时。并且消耗了更多的系统资源，比如创建多个线程和多个双端队列。
Fork/Join框架要完成两件事情：
1.任务分割：首先Fork/Join框架需要把大的任务分割成足够小的子任务，如果子任务比较大的话还要对子任务进行继续分割
2.执行任务并合并结果：分割的子任务分别放到双端队列里，然后几个启动线程分别从双端队列里获取任务执行。子任务执行完的结果都放在另外一个队列里，启动一个线程从队列里取数据，然后合并这些数据。
在Java的Fork/Join框架中，使用两个类完成上述操作
1.ForkJoinTask:我们要使用Fork/Join框架，首先需要创建一个ForkJoin任务。该类提供了在任务中执行fork和join的机制。通常情况下我们不需要直接集成ForkJoinTask类，只需要继承它的子类，Fork/Join框架提供了两个子类：
a.RecursiveAction：用于没有返回结果的任务
b.RecursiveTask:用于有返回结果的任务
2.ForkJoinPool:ForkJoinTask需要通过ForkJoinPool来执行
任务分割出的子任务会添加到当前工作线程所维护的双端队列中，进入队列的头部。当一个工作线程的队列里暂时没有任务时，它会随机从其他工作线程的队列的尾部获取一个任务(工作窃取算法)。
二.使用场景：
Fork/Join框架适合能够进行拆分再合并的计算密集型（CPU密集型）任务。Fork/Join框架是一个并行框架，因此要求服务器拥有多CPU、多核，用以提高计算能力。
如果是单核、单CPU，不建议使用该框架，会带来额外的性能开销，反而比单线程的执行效率低。当然不是因为并行的任务会进行频繁的线程切换，因为Fork/Join框架在进行线程池初始化的时候默认线程数量为Runtime.getRuntime().availableProcessors()，单CPU单核的情况下只会产生一个线程，并不会造成线程切换，而是会增加Fork/Join框架的一些队列、池化的开销。
三.约束条件
除了fork() 和 join()方法外，线程不得使用其他的同步工具。线程最好也不要sleep()
线程不得进行I/O操作
线程不得抛出checked exception
四.使用案例：
我们通过一个简单的例子来介绍一下Fork/Join框架的使用。需求是求1+2+3+4的结果
使用Fork/Join框架首先要考虑到的是如何分割任务，如果希望每个子任务最多执行两个数的相加，那么我们设置分割的阈值是2，由于是4个数字相加，所以Fork/Join框架会把这个任务fork成两个子任务，子任务一负责计算1+2，子任务二负责计算3+4，然后再join两个子任务的结果。因为是有结果的任务，所以必须继承RecursiveTask，实现代码如下：
1public class CountTask extends RecursiveTask{
2 private static final int THREAD_HOLD = 2;
3 private int start;
4 private int end;
5 public CountTask(int start,int end){
6 this.start = start;
7 this.end = end;
8 }
9 @Override
10 protected Integer compute() {
11 int sum = 0;
12 //如果任务足够小就计算
13 boolean canCompute = (end - start) <= THREAD_HOLD;
14 if(canCompute){
15 for(int i=start;i<=end;i++){
16 sum += i;
17 }
18 }else{
19 int middle = (start + end) / 2;
20 CountTask left = new CountTask(start,middle);
21 CountTask right = new CountTask(middle+1,end);
22 //执行子任务
23 left.fork();
24 right.fork();
25 //获取子任务结果
26 int lResult = left.join();
27 int rResult = right.join();
28 sum = lResult + rResult;
29 }
30 return sum;
31 }
32 public static void main(String[] args){
33 ForkJoinPool pool = new ForkJoinPool();
34 CountTask task = new CountTask(1,4);
35 Future result = pool.submit(task);
36 try {
37 System.out.println(result.get());
38 } catch (InterruptedException e) {
39 e.printStackTrace();
40 } catch (ExecutionException e) {
41 e.printStackTrace();
42 }
43 }
44}
通过这个例子，我们进一步了解ForkJoinTask，ForkJoinTask与一般任务的主要区别在于它需要实现compute方法，在这个方法里，首先需要判断任务是否足够小，如果足够小就直接执行任务。如果不足够小，就必须分割成两个子任务，每个子任务在调用fork方法时，又会进入compute方法，看看当前子任务是否需要继续分割成子任务，如果不需要继续分割，则执行当前子任务并返回结果。使用join方法会等待子任务执行完并得到其结果。
五.Fork/Join框架的实现原理
Fork/Join框架基础类
ForkJoinPool： 用来执行Task，或生成新的ForkJoinWorkerThread，执行 ForkJoinWorkerThread 间的 work-stealing 逻辑。ForkJoinPool 不是为了替代 ExecutorService，而是它的补充，在某些应用场景下性能比 ExecutorService 更好。
ForkJoinTask： 执行具体的分支逻辑，声明以同步/异步方式进行执行
ForkJoinWorkerThread： 是 ForkJoinPool 内的 worker thread，执行
ForkJoinTask, 内部有 ForkJoinPool.WorkQueue来保存要执行的ForkJoinTask。
ForkJoinPool.WorkQueue：保存要执行的ForkJoinTask。
基本思想
ForkJoinPool 的每个工作线程都维护着一个工作队列（WorkQueue），这是一个双端队列（Deque），里面存放的对象是任务（ForkJoinTask）。
每个工作线程在运行中产生新的任务（通常是因为调用了 fork()）时，会放入工作队列的队尾，并且工作线程在处理自己的工作队列时，使用的是 LIFO 方式，也就是说每次从队尾取出任务来执行。
每个工作线程在处理自己的工作队列同时，会尝试窃取一个任务（或是来自于刚刚提交到 pool 的任务，或是来自于其他工作线程的工作队列），窃取的任务位于其他线程的工作队列的队首，也就是说工作线程在窃取其他工作线程的任务时，使用的是 FIFO 方式。
在遇到 join() 时，如果需要 join 的任务尚未完成，则会先处理其他任务，并等待其完成。
在既没有自己的任务，也没有可以窃取的任务时，进入休眠。
ForkJoinPool由ForkJoinTask数组和ForkJoinWorkerThread数组组成，ForkJoinTask数组负责将存放程序提交给ForkJoinPool，而ForkJoinWorkerThread负责执行这些任务。
ForkJoinTask的Fork方法的实现原理：
当我们调用ForkJoinTask的fork方法时，程序会把任务放在ForkJoinWorkerThread的pushTask的workQueue中，异步地执行这个任务，然后立即返回结果，代码如下：
1public final ForkJoinTask fork() {
2 Thread t;
3 if ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread)
4 ((ForkJoinWorkerThread)t).workQueue.push(this);
5 else
6 ForkJoinPool.common.externalPush(this);
7 return this;
8 }
pushTask方法把当前任务存放在ForkJoinTask数组队列里。然后再调用ForkJoinPool的signalWork()方法唤醒或创建一个工作线程来执行任务。代码如下：
1final void push(ForkJoinTask task) {
2 ForkJoinTask[] a; ForkJoinPool p;
3 int b = base, s = top, n;
4 if ((a = array) != null) { // ignore if queue removed
5 int m = a.length - 1; // fenced write for task visibility
6 U.putOrderedObject(a, ((m & s) << ASHIFT) + ABASE, task);
7 U.putOrderedInt(this, QTOP, s + 1);
8 if ((n = s - b) <= 1) {
9 if ((p = pool) != null)
10 p.signalWork(p.workQueues, this);
11 }
12 else if (n >= m)
13 growArray();
14 }
15 }
ForkJoinTask的join方法实现原理
Join方法的主要作用是阻塞当前线程并等待获取结果。让我们一起看看ForkJoinTask的join方法的实现，代码如下：
1public final V join() {
2 int s;
3 if ((s = doJoin() & DONE_MASK) != NORMAL)
4 reportException(s);
5 return getRawResult();
6 }
它首先调用doJoin方法，通过doJoin()方法得到当前任务的状态来判断返回什么结果，任务状态有4种：已完成（NORMAL）、被取消（CANCELLED）、信号（SIGNAL）和出现异常（EXCEPTIONAL）。
如果任务状态是已完成，则直接返回任务结果。
如果任务状态是被取消，则直接抛出CancellationException
如果任务状态是抛出异常，则直接抛出对应的异常
让我们分析一下doJoin方法的实现
1private int doJoin() {
2 int s; Thread t; ForkJoinWorkerThread wt; ForkJoinPool.WorkQueue w;
3 return (s = status) < 0 ? s :
4 ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread) ?
5 (w = (wt = (ForkJoinWorkerThread)t).workQueue).
6 tryUnpush(this) && (s = doExec()) < 0 ? s :
7 wt.pool.awaitJoin(w, this, 0L) :
8 externalAwaitDone();
9 }
doExec方法
1final int doExec() {
2 int s; boolean completed;
3 if ((s = status) >= 0) {
4 try {
5 completed = exec();
6 } catch (Throwable rex) {
7 return setExceptionalCompletion(rex);
8 }
9 if (completed)
10 s = setCompletion(NORMAL);
11 }
12 return s;
13 }
在doJoin()方法里，首先通过查看任务的状态，看任务是否已经执行完成，如果执行完成，则直接返回任务状态；如果没有执行完，则从任务数组里取出任务并执行。如果任务顺利执行完成，则设置任务状态为NORMAL，如果出现异常，则记录异常，并将任务状态设置为EXCEPTIONAL。
Fork/Join框架的异常处理
ForkJoinTask在执行的时候可能会抛出异常，但是我们没办法在主线程里直接捕获异常，所以ForkJoinTask提供了isCompletedAbnormally()方法来检查任务是否已经抛出异常或已经被取消了，并且可以通过ForkJoinTask的getException方法获取异常。使用如下代码：
1if(task.isCompletedAbnormally())
2{
3 System.out.println(task.getException());
4}
getException方法返回Throwable对象，如果任务被取消了则返回CancellationException。如果任务没有完成或者没有抛出异常则返回null。
1public final Throwable getException() {
2 int s = status & DONE_MASK;
3 return ((s >= NORMAL) ? null :
4 (s == CANCELLED) ? new CancellationException() :
5 getThrowableException());
6 }