并发编程-线程池ForkJoinPool
ForkJoinPool
算法题：如何充分利用多核CPU的性能，快速对一个2千万大小的数组进行排序？
分治思想：分解 求解 合并
分治思想是将一个规模为N的问题分解为K个规模较小的子问题，这些子问题相互独立且与原问题性质相同。求出子问题的解，就可得到原问题的解。
分治思想的步骤如下：
1、分解：将要解决的问题划分成若干规模较小的同类问题；（子问题不能无限小，所以通常会设置阈值）
2、求解：当子问题划分得足够小时，用较简单的方法解决；
3、合并：按原问题的要求，将子问题的解逐层合并构成原问题的解。
计算机十大经典算法中的归并排序、快速排序、二分查找都是基于分治思想实现的算法
归并排序（Merge Sort）演示：Comparison Sorting Visualization
扩展：Arrays.sort() 非常高效的算法，快速排序，并且进行了优化
/**
* Sorts the specified array into ascending numerical order.
*
* Implementation note: The sorting algorithm is a Dual-Pivot Quicksort
* by Vladimir Yaroslavskiy, Jon Bentley, and Joshua Bloch. This algorithm
* offers O(n log(n)) performance on many data sets that cause other
* quicksorts to degrade to quadratic performance, and is typically
* faster than traditional (one-pivot) Quicksort implementations.
*
* @param a the array to be sorted
*/
public static void sort(int[] a) {
DualPivotQuicksort.sort(a, 0, a.length - 1, null, 0, 0);
}
/**
* Sorts the specified array into ascending numerical order.
*
* @implNote The sorting algorithm is a parallel sort-merge that breaks the
* array into sub-arrays that are themselves sorted and then merged. When
* the sub-array length reaches a minimum granularity, the sub-array is
* sorted using the appropriate {@link Arrays#sort(byte[]) Arrays.sort}
* method. If the length of the specified array is less than the minimum
* granularity, then it is sorted using the appropriate {@link
* Arrays#sort(byte[]) Arrays.sort} method. The algorithm requires a
* working space no greater than the size of the original array. The
* {@link ForkJoinPool#commonPool() ForkJoin common pool} is used to
* execute any parallel tasks.
*
* @param a the array to be sorted
*
* @since 1.8
*/
public static void parallelSort(byte[] a) {
int n = a.length, p, g;
if (n <= MIN_ARRAY_SORT_GRAN ||
(p = ForkJoinPool.getCommonPoolParallelism()) == 1)
DualPivotQuicksort.sort(a, 0, n - 1);
else
new ArraysParallelSortHelpers.FJByte.Sorter
(null, a, new byte[n], 0, n, 0,
((g = n / (p << 2)) <= MIN_ARRAY_SORT_GRAN) ?
MIN_ARRAY_SORT_GRAN : g).invoke();
}
基于归并排序算法实现
对于大小为2千万的数组进行快速排序，可以使用高效的归并排序算法来实现。
什么是归并排序
归并排序（Merge Sort）是一种基于分治思想的排序算法。归并排序的基本思想是将一个大数组分成两个相等大小的子数组，对每个子数组分别进行排序，然后将两个子数组合并成一个有序的大数组。因为常常使用递归实现（由先拆分后合并的性质决定的），所以我们称其为归并排序。
归并排序的步骤包括：
-
将数组分成两个子数组
-
对每个子数组进行排序
-
合并两个有序的子数组（合并后仍是有序的，用双指针排序保证）
归并排序的时间复杂度为O(nlogn)，空间复杂度为O(n)，其中n为数组的长度。
使用归并排序实现上面的算法题
单线程实现归并排序
单线程归并算法的实现：将序列分成两个部分，分别进行递归排序，然后将排序好的子序列合并起来。
public class MergeSort
{
/** 要排序的数组 */
private final int[] arrayToSort;
/** 拆分的阈值，低于此阈值就不再进行拆分 */
private final int threshold;
public MergeSort(final int[] arrayToSort, final int threshold)
{
this.arrayToSort = arrayToSort;
this.threshold = threshold;
}
/**
* 排序
*/
public int[] mergeSort()
{
return mergeSort(arrayToSort, threshold);
}
public static int[] mergeSort(final int[] arrayToSort, int threshold)
{
// 拆分后的数组长度小于阈值，直接进行排序
if (arrayToSort.length < threshold)
{
// 调用jdk提供的排序方法
Arrays.sort(arrayToSort);
return arrayToSort;
}
int midpoint = arrayToSort.length / 2;
// 对数组进行拆分
int[] leftArray = Arrays.copyOfRange(arrayToSort, 0, midpoint);
int[] rightArray = Arrays.copyOfRange(arrayToSort, midpoint, arrayToSort.length);
// 递归调用
leftArray = mergeSort(leftArray, threshold);
rightArray = mergeSort(rightArray, threshold);
// 合并排序结果
return merge(leftArray, rightArray);
}
public static int[] merge(final int[] leftArray, final int[] rightArray)
{
// 定义用于合并结果的数组
int[] mergedArray = new int[leftArray.length + rightArray.length];
int mergedArrayPos = 0;
// 利用双指针进行两个数的比较
int leftArrayPos = 0;
int rightArrayPos = 0;
while (leftArrayPos < leftArray.length && rightArrayPos < rightArray.length)
{
if (leftArray[leftArrayPos] <= rightArray[rightArrayPos])
{
mergedArray[mergedArrayPos] = leftArray[leftArrayPos];
leftArrayPos++;
}
else
{
mergedArray[mergedArrayPos] = rightArray[rightArrayPos];
rightArrayPos++;
}
mergedArrayPos++;
}
while (leftArrayPos < leftArray.length)
{
mergedArray[mergedArrayPos] = leftArray[leftArrayPos];
leftArrayPos++;
mergedArrayPos++;
}
while (rightArrayPos < rightArray.length)
{
mergedArray[mergedArrayPos] = rightArray[rightArrayPos];
rightArrayPos++;
mergedArrayPos++;
}
return mergedArray;
}
public static void main(String[] args)
{
// 生成测试数组 用于归并排序
int[] arrayToSortByMergeSort = Utils.buildRandomIntArray(20000000);
// 获取处理器数量
int processors = Runtime.getRuntime().availableProcessors();
MergeSort mergeSort = new MergeSort(arrayToSortByMergeSort, processors);
long startTime = System.nanoTime();
// 归并排序
mergeSort.mergeSort();
long duration = System.nanoTime() - startTime;
System.out.println("单线程归并排序时间: " + (duration / (1000f * 1000f)) + "毫秒");
}
}
/**
* 随机生成数组工具类
*/
public class Utils
{
public static int[] buildRandomIntArray(final int size)
{
int[] arrayToCalculateSumOf = new int[size];
Random generator = new Random();
for (int i = 0; i < arrayToCalculateSumOf.length; i++)
{
arrayToCalculateSumOf[i] = generator.nextInt(100000000);
}
return arrayToCalculateSumOf;
}
}Fork/Join并行归并排序
并行归并排序是一种利用多线程实现的归并排序算法。基本思路：将数据分成若干部分，然后在不同线程上对这些部分进行归并排序，最后将排好序的部分合并成有序数组。在多核CPU上，这种算法也能够有效提高排序速度。
可以使用Java的Fork/Join框架来实现归并排序的并行化：
/**
* 利用fork-join实现数组排序
*/
public class MergeSortTask extends RecursiveAction
{
/** 拆分的阈值，低于此阈值就不再进行拆分 */
private final int threshold;
/** 要排序的数组 */
private int[] arrayToSort;
public MergeSortTask(final int[] arrayToSort, final int threshold)
{
this.arrayToSort = arrayToSort;
this.threshold = threshold;
}
@Override
protected void compute()
{
// 拆分后的数组长度小于阈值，直接进行排序
if (arrayToSort.length <= threshold)
{
// 调用jdk提供的排序方法
Arrays.sort(arrayToSort);
return;
}
// 对数组进行拆分
int midpoint = arrayToSort.length / 2;
int[] leftArray = Arrays.copyOfRange(arrayToSort, 0, midpoint);
int[] rightArray = Arrays.copyOfRange(arrayToSort, midpoint, arrayToSort.length);
MergeSortTask leftTask = new MergeSortTask(leftArray, threshold);
MergeSortTask rightTask = new MergeSortTask(rightArray, threshold);
// 方案一：调用任务，阻塞当前线程，直到所有子任务执行完成
invokeAll(leftTask, rightTask);
// 方案二：包括提交任务fork和合并结果join
// leftTask.fork();
// rightTask.fork();
// leftTask.join();
// rightTask.join();
// 注意：方案一和方案二可以替换，方案一的优势在于可以充分利用CPU的多核能力
// 合并排序结果
arrayToSort = MergeSort.merge(leftTask.getSortedArray(), rightTask.getSortedArray());
}
public int[] getSortedArray()
{
return arrayToSort;
}
public static void main(String[] args)
{
// 生成测试数组 用于归并排序
int[] arrayToSortByMergeSort = Utils.buildRandomIntArray(20000000);
// 生成测试数组 用于forkjoin排序
int[] arrayToSortByForkJoin = Arrays.copyOf(arrayToSortByMergeSort, arrayToSortByMergeSort.length);
// 获取处理器数量
int processors = Runtime.getRuntime().availableProcessors();
// 利用forkjoin排序
MergeSortTask mergeSortTask = new MergeSortTask(arrayToSortByForkJoin, processors);
// 构建forkjoin线程池
ForkJoinPool forkJoinPool = new ForkJoinPool(processors);
long startTime = System.nanoTime();
// 执行排序任务
forkJoinPool.invoke(mergeSortTask);
long duration = System.nanoTime() - startTime;
System.out.println("forkjoin排序时间: " + (duration / (1000f * 1000f)) + "毫秒");
}
}对比输出结果：
单线程归并排序时间: 3411.657毫秒
forkjoin排序时间: 1744.5936毫秒总结：数组越大，利用Fork/Join框架实现的并行化归并排序比单线程归并排序的效率越高
并行实现归并排序的优化和注意事项
-
任务的大小：任务大小的选择会影响并行算法的效率和负载均衡。如果任务太小，会造成任务划分和合并的开销过大；如果任务太大，会导致任务无法充分利用多核CPU并行处理能力。因此，在实际应用中需要根据数据量、CPU核心数等因素选择合适的任务大小。
-
负载均衡：并行算法需要保证负载均衡。各个线程执行的任务大小和时间应该尽可能相等，否则会导致某些线程负载过重，而其他线程负载过轻的情况。在归并排序中，可以通过递归调用实现负载均衡，但是需要注意递归的层数不能太深，否则会导致任务划分和合并的开销过大。
-
数据分布：数据分布的均匀性也会影响并行算法的效率和负载均衡。在归并排序中，如果数据分布不均匀，会导致某些线程处理的数据量过大，而其他线程处理的数据量过小的情况。因此，在实际应用中需要考虑数据的分布情况，尽可能将数据分成大小相等的子数组。
-
内存使用：并行算法需要考虑内存的使用情况。特别是在处理大规模数据时，内存的使用情况会对算法的执行效率产生重要影响。在归并排序中，可以通过对数据进行原地归并实现内存的节约，但是需要注意归并的实现方式，以避免数据的覆盖和不稳定排序等问题。
-
线程切换：线程切换是并行算法的一个重要开销。需要尽量减少线程的切换次数，以提高算法的执行效率。在归并排序中，可以通过设置线程池的大小和调整任务大小等方式控制线程的数量和切换开销，以实现算法的最优性能。