剑指JUC原理-12.手写简易版线程池思路
- 作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家
- 系列专栏：Spring源码、JUC源码
- 如果感觉博主的文章还不错的话，请三连支持一下博主哦
- 博主正在努力完成2023计划中：源码溯源，一探究竟
- 联系方式：nhs19990716，加我进群，大家一起学习，一起进步，一起对抗互联网寒冬
文章目录
- 自定义线程池
-
-
- 任务队列
- 多维度测试
-
- 阻塞版
- 超时阻塞版
- 阻塞队列溢出版
- 拒绝策略版
-
- 定义拒绝策略
- 阻塞队列补充
- 线程池补充
- 运行
-
- 死等
- 带超时等待
- 让调用者放弃任务执行
- 让调用者抛出异常
- 让调用者自己执行任务
-
自定义线程池
线程是一个系统资源，没创建一个新的线程就会占用一定的内存，会用栈内存，如果是高并发情况下，一下子来了很多任务，如果我为每个认为都创建一个新的线程，对内存的占用是非常大的，甚至可能会出现内存泄漏问题。
自定义线程池其实包含几个组件：
生产者，消费者，阻塞队列，两边的速率由阻塞队列等待。
线程也并不是创建的越多越好，大量的任务来了，创建了很多的线程，cpu一共就几个核，一下子来了那么多的线程，cpu忙不过来，必然让获取不到cpu时间片的线程，陷入阻塞，会引起线程上下文切换，把当前线程的状态保存下来，下次轮到的时候再取出来并恢复。线程上下文切换频繁，对系统性能应该很大。
基于上述两个原因，并不是每次都要创建新的线程，而是基于已有线程的潜力，去处理任务，而不是每次都创建新的。这也是享元模式的思想。
其实从上图就可以分析出来了，简易版本的线程池 有 生产者、消费者、阻塞队列。
其中我们需要实现的部分是 消费者 和 阻塞队列。
任务队列
接下来会在代码中 详解思路
class BlockingQueue<T> {
// 首先定义最基本的，也就是任务队列、锁（对队列进行操作时需要用锁去控制）、生产者消费者变量（实际上之所以使用Lock 而不是 Synchronized的优势就是 wait 和 notify释放的方式是随机的，而 await signal是指定的，且Synchronized 只有一个waitset，而Lock可以指定多个条件变量，代码整洁度更加的明显）
// 1. 任务队列
private Deque<T> queue = new ArrayDeque<>();
// 2. 锁
private ReentrantLock lock = new ReentrantLock();
// 3. 生产者条件变量
private Condition fullWaitSet = lock.newCondition();
// 4. 消费者条件变量
private Condition emptyWaitSet = lock.newCondition();
// 5. 容量
private int capcity;
public BlockingQueue(int capcity) {
this.capcity = capcity;
}
// 阻塞分为 不带超时时间 和 带超时时间版本，其实就是当我们获取时 是一直阻塞等待还是超时结束，这里面分别调用不同的API，比如 await 和 awaitNanos
// 带超时阻塞获取
public T poll(long timeout, TimeUnit unit) {
lock.lock();
try {
// 将 timeout 统一转换为 纳秒
long nanos = unit.toNanos(timeout);
while (queue.isEmpty()) {
try {
// 返回值是剩余时间
if (nanos <= 0) {
return null;
}
nanos = emptyWaitSet.awaitNanos(nanos);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
T t = queue.removeFirst();
fullWaitSet.signal();
return t;
} finally {
lock.unlock();
}
}
// 阻塞获取
public T take() {
lock.lock();
try {
while (queue.isEmpty()) {
try {
emptyWaitSet.await();
} catch (InterruptedException e) {
e.printStackTrace();
}
}
T t = queue.removeFirst();
fullWaitSet.signal();
return t;
} finally {
lock.unlock();
}
}
// 与阻塞获取同理
// 阻塞添加
public void put(T task) {
lock.lock();
try {
while (queue.size() == capcity) {
try {
System.out.println("等待加入任务队列 "+ task);
fullWaitSet.await();
/**
这里面其实是有一个点需要注意的，就是 其实 await 这次阻塞的是主线程，本质上，await还是会阻塞 并释放锁的。
*/
} catch (InterruptedException e) {
e.printStackTrace();
}
}
System.out.println("加入任务队列 "+ task);
queue.addLast(task);
emptyWaitSet.signal();
} finally {
lock.unlock();
}
}
// 带超时时间阻塞添加
public boolean offer(T task, long timeout, TimeUnit timeUnit) {
lock.lock();
try {
long nanos = timeUnit.toNanos(timeout);
while (queue.size() == capcity) {
try {
if(nanos <= 0) {
return false;
}
System.out.println("等待加入任务队列 "+ task);
nanos = fullWaitSet.awaitNanos(nanos);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
System.out.println("加入任务队列 "+ task);
queue.addLast(task);
emptyWaitSet.signal();
return true;
} finally {
lock.unlock();
}
}
public int size() {
lock.lock();
try {
return queue.size();
} finally {
lock.unlock();
}
}
}
线程池
class ThreadPool {
// 目前该版本的是不带拒绝策略的线程池，所以需要的参数有 核心线程数、任务队列、超时时间、单位
// 任务队列
private BlockingQueue<Runnable> taskQueue;
// 线程集合
private HashSet<Worker> workers = new HashSet<>();
// 核心线程数
private int coreSize;
// 获取任务时的超时时间
private long timeout;
private TimeUnit timeUnit;
// 执行任务
public void execute(Runnable task) {
// 当任务数没有超过 coreSize 时，直接交给 worker 对象执行
// 如果任务数超过 coreSize 时，加入任务队列暂存
synchronized (workers) {
if(workers.size() < coreSize) {
Worker worker = new Worker(task);
System.out.println("新增 worker "+ worker + " " + task);
workers.add(worker);
worker.start();
} else {
taskQueue.put(task);
}
}
}
public ThreadPool(int coreSize, long timeout, TimeUnit timeUnit, int queueCapcity) {
this.coreSize = coreSize;
this.timeout = timeout;
this.timeUnit = timeUnit;
this.taskQueue = new BlockingQueue<>(queueCapcity);
}
class Worker extends Thread{
private Runnable task;
public Worker(Runnable task) {
this.task = task;
}
@Override
public void run() {
// 执行任务
// 1) 当 task 不为空，执行任务
// 2) 当 task 执行完毕，再接着从任务队列获取任务并执行
// while(task != null || (task = taskQueue.take()) != null) {
while(task != null || (task = taskQueue.poll(timeout, timeUnit)) != null) {
try {
System.out.println("正在执行 "+task);
task.run();
} catch (Exception e) {
e.printStackTrace();
} finally {
task = null;
}
}
synchronized (workers) {
System.out.println("worker 被移除"+ this);
workers.remove(this);
}
}
}
}
多维度测试
阻塞版
ThreadPool threadPool = new ThreadPool(2, 1000, TimeUnit.MILLISECONDS, 10);
for (int i = 0; i < 5; i++) {
int j = i;
threadPool.execute(() -> {
try {
Thread.sleep(1000L);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println(j);
});
}
输出：
新增 worker Thread[Thread-0,5,main] test2$$Lambda$1/1831932724@448139f0
新增 worker Thread[Thread-1,5,main] test2$$Lambda$1/1831932724@7ba4f24f
加入任务队列 test2$$Lambda$1/1831932724@7699a589
正在执行 test2$$Lambda$1/1831932724@448139f0
正在执行 test2$$Lambda$1/1831932724@7ba4f24f
加入任务队列 test2$$Lambda$1/1831932724@58372a00
加入任务队列 test2$$Lambda$1/1831932724@4dd8dc3
1
0
正在执行 test2$$Lambda$1/1831932724@7699a589
正在执行 test2$$Lambda$1/1831932724@58372a00
3
2
正在执行 test2$$Lambda$1/1831932724@4dd8dc3
4
... 未退出
首先分析一下这个结果流程（后面的结果大体思路一致，故不做分析！！！）
前两行打印 ”新增 …“ 其实是因为 执行execute 方法时走了 if逻辑，创建了两个线程，故打印
而其余的三个线程因为 走了else逻辑，最终执行put方法，打印 ”加入任务队列“
两句 ”正在执行“ 是因为 符合 worker线程中的 while逻辑，故 打印”正在执行…“
然后 前两个线程 执行完了，输出 0 1
此时，这两个线程 中的while条件 while(task != null || (task = taskQueue.take()) != null) 中，task = taskQueue.take() 阻塞获取新的任务，获取了两个新的线程，然后 打印”正在执行…“ 输出 2 3
最后又执行while逻辑，将最后一个任务 执行，并打印，而两个线程继续执行while里面的 阻塞获取，程序并未退出！！！
之所以会是这个结果，是因为前面这里是这样设置的
class Worker extends Thread{
private Runnable task;
public Worker(Runnable task) {
this.task = task;
}
@Override
public void run() {
// 执行任务
// 1) 当 task 不为空，执行任务
// 2) 当 task 执行完毕，再接着从任务队列获取任务并执行
while(task != null || (task = taskQueue.take()) != null) {
//while(task != null || (task = taskQueue.poll(timeout, timeUnit)) != null) {
try {
System.out.println("正在执行 "+task);
task.run();
} catch (Exception e) {
e.printStackTrace();
} finally {
task = null;
}
}
synchronized (workers) {
System.out.println("worker 被移除"+ this);
workers.remove(this);
}
}
}
超时阻塞版
想实现，故使用超时阻塞获取的办法即可
class Worker extends Thread{
private Runnable task;
public Worker(Runnable task) {
this.task = task;
}
@Override
public void run() {
// 执行任务
// 1) 当 task 不为空，执行任务
// 2) 当 task 执行完毕，再接着从任务队列获取任务并执行
//while(task != null || (task = taskQueue.take()) != null) {
while(task != null || (task = taskQueue.poll(timeout, timeUnit)) != null) {
try {
System.out.println("正在执行 "+task);
task.run();
} catch (Exception e) {
e.printStackTrace();
} finally {
task = null;
}
}
synchronized (workers) {
System.out.println("worker 被移除"+ this);
workers.remove(this);
}
}
}
输出：
新增 worker Thread[Thread-0,5,main] test2$$Lambda$1/1831932724@448139f0
新增 worker Thread[Thread-1,5,main] test2$$Lambda$1/1831932724@7ba4f24f
正在执行 test2$$Lambda$1/1831932724@448139f0
加入任务队列 test2$$Lambda$1/1831932724@7699a589
正在执行 test2$$Lambda$1/1831932724@7ba4f24f
加入任务队列 test2$$Lambda$1/1831932724@58372a00
加入任务队列 test2$$Lambda$1/1831932724@4dd8dc3
0
1
正在执行 test2$$Lambda$1/1831932724@7699a589
正在执行 test2$$Lambda$1/1831932724@58372a00
2
3
正在执行 test2$$Lambda$1/1831932724@4dd8dc3
4
worker 被移除Thread[Thread-1,5,main]
worker 被移除Thread[Thread-0,5,main]
Process finished with exit code 0
阻塞队列溢出版
有一个这样的场景，假设设置核心数为2 等待队列长度为10，而此时15个人任务都来了，那么剩下的3个怎么处理呢？
for (int i = 0; i < 15; i++) {
int j = i;
threadPool.execute(() -> {
try {
// 将时间拉长，不能一下子执行完
Thread.sleep(10000000L);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println(j);
});
}
输出：
新增 worker Thread[Thread-0,5,main] test2$$Lambda$1/1831932724@448139f0
新增 worker Thread[Thread-1,5,main] test2$$Lambda$1/1831932724@7ba4f24f
正在执行 test2$$Lambda$1/1831932724@448139f0
正在执行 test2$$Lambda$1/1831932724@7ba4f24f
加入任务队列 test2$$Lambda$1/1831932724@7699a589
加入任务队列 test2$$Lambda$1/1831932724@58372a00
加入任务队列 test2$$Lambda$1/1831932724@4dd8dc3
加入任务队列 test2$$Lambda$1/1831932724@6d03e736
加入任务队列 test2$$Lambda$1/1831932724@568db2f2
加入任务队列 test2$$Lambda$1/1831932724@378bf509
加入任务队列 test2$$Lambda$1/1831932724@5fd0d5ae
加入任务队列 test2$$Lambda$1/1831932724@2d98a335
加入任务队列 test2$$Lambda$1/1831932724@16b98e56
加入任务队列 test2$$Lambda$1/1831932724@7ef20235
等待加入任务队列 test2$$Lambda$1/1831932724@27d6c5e0
... 未退出
其实本质上是一样的，但是需要着重分析下，实际的流程是这样的
public void execute(Runnable task) {
// 当任务数没有超过 coreSize 时，直接交给 worker 对象执行
// 如果任务数超过 coreSize 时，加入任务队列暂存
synchronized (workers) {
if(workers.size() < coreSize) {
Worker worker = new Worker(task);
System.out.println("新增 worker "+ worker + " " + task);
workers.add(worker);
worker.start();
} else {
taskQueue.put(task);
}
}
}
// 阻塞添加
public void put(T task) {
lock.lock();
try {
while (queue.size() == capcity) {
try {
System.out.println("等待加入任务队列 "+ task);
fullWaitSet.await();
/**
这里面其实是有一个点需要注意的，就是 其实 await 这次阻塞的是主线程，本质上，await还是会阻塞 并释放锁的。
*/
} catch (InterruptedException e) {
e.printStackTrace();
}
}
System.out.println("加入任务队列 "+ task);
queue.addLast(task);
emptyWaitSet.signal();
} finally {
lock.unlock();
}
}
可以分析到，后13个线程都去执行了put，而这其中的前十次都能逐步的获取锁插入，而第十一次就执行await卡死，没有第十二次和第十三次的输出了。在学习前面章节的时候我们知道，await其实和wait很像，一旦执行就会阻塞，并且释放锁，等到将来苏醒了再去竞争锁。但是为什么没有第十二次和第十三次的输出呢？
这个的原因要从main函数看：
ThreadPool threadPool = new ThreadPool(2, 1000, TimeUnit.MILLISECONDS, 10);
for (int i = 0; i < 15; i++) {
int j = i;
threadPool.execute(() -> {
try {
// 将时间拉长，不能一下子执行完
Thread.sleep(10000000L);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println(j);
});
}
它并不是执行了多个线程，如果在多线程的情况下，await会释放锁，请看这个例子
static ReentrantLock lock = new ReentrantLock();
static Condition waitCigaretteQueue = lock.newCondition();
static Condition waitbreakfastQueue = lock.newCondition();
static volatile boolean hasCigrette = false;
static volatile boolean hasBreakfast = false;
public static void main(String[] args) throws InterruptedException {
new Thread(() -> {
try {
lock.lock();
while (!hasCigrette) {
try {
System.out.println("烟");
waitCigaretteQueue.await();
} catch (InterruptedException e) {
e.printStackTrace();
}
}
System.out.println("等到了它的烟");
} finally {
lock.unlock();
}
}).start();
new Thread(() -> {
try {
lock.lock();
while (!hasBreakfast) {
try {
System.out.println("早餐");
waitbreakfastQueue.await();
} catch (InterruptedException e) {
e.printStackTrace();
}
}
System.out.println("等到了它的早餐");
} finally {
lock.unlock();
}
}).start();
Thread.sleep(10000);
sendBreakfast();
Thread.sleep(10000);
sendCigarette();
}
private static void sendCigarette() {
lock.lock();
try {
System.out.println("送烟来了");
hasCigrette = true;
waitCigaretteQueue.signal();
} finally {
lock.unlock();
}
}
private static void sendBreakfast() {
lock.lock();
try {
System.out.println("送早餐来了");
hasBreakfast = true;
waitbreakfastQueue.signal();
} finally {
lock.unlock();
}
}
该例子的输出能够很有效的证明这一点，所以关于await这部分需要注意！！！
拒绝策略版
实际上，阻塞队列溢出，一直阻塞就相当于一种拒绝策略！
定义拒绝策略
@FunctionalInterface // 拒绝策略
interface RejectPolicy<T> {
void reject(BlockingQueue<T> queue, T task);
}
阻塞队列补充
public void tryPut(RejectPolicy<T> rejectPolicy, T task) {
lock.lock();
try {
// 判断队列是否满
if(queue.size() == capcity) {
rejectPolicy.reject(this, task);
} else { // 有空闲
System.out.println("加入任务队列 "+ task);
queue.addLast(task);
emptyWaitSet.signal();
}
} finally {
lock.unlock();
}
}
可以看到，核心的拒绝策略是用户自己提供的
线程池补充
private RejectPolicy<Runnable> rejectPolicy;
public ThreadPool(int coreSize, long timeout, TimeUnit timeUnit, int queueCapcity,
RejectPolicy<Runnable> rejectPolicy) {
this.coreSize = coreSize;
this.timeout = timeout;
this.timeUnit = timeUnit;
this.taskQueue = new BlockingQueue<>(queueCapcity);
this.rejectPolicy = rejectPolicy;
}
public void execute(Runnable task) {
// 当任务数没有超过 coreSize 时，直接交给 worker 对象执行
// 如果任务数超过 coreSize 时，加入任务队列暂存
synchronized (workers) {
if(workers.size() < coreSize) {
Worker worker = new Worker(task);
System.out.println("新增 worker "+ worker + " " + task);
workers.add(worker);
worker.start();
} else {
//taskQueue.put(task);
// 1) 死等
// 2) 带超时等待
// 3) 让调用者放弃任务执行
// 4) 让调用者抛出异常
// 5) 让调用者自己执行任务
taskQueue.tryPut(rejectPolicy, task);
}
}
}
运行
ThreadPool threadPool = new ThreadPool(1,
1000, TimeUnit.MILLISECONDS, 1, (queue, task)->{
// 1. 死等
queue.put(task);
// 2) 带超时等待
// queue.offer(task, 1500, TimeUnit.MILLISECONDS);
// 3) 让调用者放弃任务执行
// log.debug("放弃{}", task);
// 4) 让调用者抛出异常
// throw new RuntimeException("任务执行失败 " + task);
// 5) 让调用者自己执行任务
//task.run();
});
for (int i = 0; i < 3; i++) {
int j = i;
threadPool.execute(() -> {
try {
Thread.sleep(10000000L);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println(j);
});
}
死等
新增 worker Thread[Thread-0,5,main] test2$$Lambda$2/2093631819@58372a00
加入任务队列 test2$$Lambda$2/2093631819@6d03e736
等待加入任务队列 test2$$Lambda$2/2093631819@568db2f2
正在执行 test2$$Lambda$2/2093631819@58372a00
...死等
可以看到，第三个线程确实死等了
带超时等待
ThreadPool threadPool = new ThreadPool(1,
1000, TimeUnit.MILLISECONDS, 1, (queue, task)->{
// 1. 死等
// queue.put(task);
// 2) 带超时等待
queue.offer(task, 500, TimeUnit.MILLISECONDS);
// 3) 让调用者放弃任务执行
// log.debug("放弃{}", task);
// 4) 让调用者抛出异常
// throw new RuntimeException("任务执行失败 " + task);
// 5) 让调用者自己执行任务
//task.run();
});
for (int i = 0; i < 3; i++) {
int j = i;
threadPool.execute(() -> {
try {
Thread.sleep(1000L);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println(j);
});
}
输出：
新增 worker Thread[Thread-0,5,main] test2$$Lambda$2/2093631819@58372a00
加入任务队列 test2$$Lambda$2/2093631819@6d03e736
等待加入任务队列 test2$$Lambda$2/2093631819@568db2f2
正在执行 test2$$Lambda$2/2093631819@58372a00
0
正在执行 test2$$Lambda$2/2093631819@6d03e736
1
worker 被移除Thread[Thread-0,5,main]
可以看到 第三个任务确实取消了
让调用者放弃任务执行
输出：
新增 worker Thread[Thread-0,5,main] test2$$Lambda$2/2093631819@58372a00
加入任务队列 test2$$Lambda$2/2093631819@6d03e736
放弃 test2$$Lambda$2/2093631819@568db2f2
正在执行 test2$$Lambda$2/2093631819@58372a00
0
正在执行 test2$$Lambda$2/2093631819@6d03e736
1
worker 被移除Thread[Thread-0,5,main]
让调用者抛出异常
输出：
新增 worker Thread[Thread-0,5,main] test2$$Lambda$2/2093631819@58372a00
加入任务队列 test2$$Lambda$2/2093631819@6d03e736
正在执行 test2$$Lambda$2/2093631819@58372a00
Exception in thread "main" java.lang.RuntimeException: 任务执行失败 test2$$Lambda$2/2093631819@568db2f2
at test2.lambda$main$0(test2.java:53)
at BlockingQueue.tryPut(test2.java:200)
at ThreadPool.execute(test2.java:247)
at test2.main(test2.java:60)
0
正在执行 test2$$Lambda$2/2093631819@6d03e736
1
worker 被移除Thread[Thread-0,5,main]
让调用者自己执行任务
输出：
新增 worker Thread[Thread-0,5,main] test2$$Lambda$2/2093631819@58372a00
加入任务队列 test2$$Lambda$2/2093631819@6d03e736
正在执行 test2$$Lambda$2/2093631819@58372a00
0
2
正在执行 test2$$Lambda$2/2093631819@6d03e736
1
worker 被移除Thread[Thread-0,5,main]
可以看到 0 2同时输出了，2是主线程执行的