非同步和非阻塞
什么是非同步?
- 异步执行
- 不是同步的方式运行,或者不是按照你描述的顺序发生。
什么是非阻塞
- 不是阻塞的
- 不会造成线程的阻塞
为什么需要异步呢?
- 业务方法太耗时间
- 网络开销
- 加解密操作
- 文件上传下载
- ......
同步方式有什么坏处?
- Web 服务,因为执行某些过长的线程长时间占用线程,则你的服务吞吐量严重降低。
- 桌面或者手机的应用,执行可能会卡顿,等待服务的请求耗时。
传统的阻塞业务处理示例
// 10 seconds
Image img1 = download();
render(img1);
// 12 seconds
Image img2 = download();
render(img2);
这些业务方代码很耗费时间,并且传统的写法,每个方法操作控制起来非常不方便。
Java 8 之前的做法
- java.lang.Thread
- JDK1.0
对于上述的示例代码基于JDK8 Consumer 的实现
void downloadAsync(String url,Consumer c) {
new Thread(() -> {
Image result = download(url);
c.accept(result);
} ).start();
}
这样实现好么?使用Thread 的这种方式存在什么缺点?
- 使用Thread 的方式经常需要配合 synchronized,wait,notify 和 join
- 不同Thread 之间如何存取同一份数据?
- 如何管控?
- 如何进行业务方法之间的组合和依赖?
如何对方法之间进行依赖处理示例:
fetchDataAsync (data -> {
downloadAsync(data , image -> render(image));
});
上述代码可以实现我们想要的结果,但是不推荐,Thread 并没有进行相关的方法组合、依赖API,这种实现方式,到后边基本就成了回调地狱。
避免回调,但是线程之间的结果还是要前后依赖,我们也可以这样实现:
new Thread(() -> {
final Data result = fetchData();
Image img = download(result.imageURL);
Bitmap bitmap = decode(img);
}).start();
上述方式,其实就是把三个线程的返回结果包裹在一个大的Thread 中,这种方式的确可以做,但是还是不够优雅。这样子导致外层的这个Thread 非常大。综上,两种实现方式总结如下:
- 组合各种非同步方法,写起来还是变成了回调地狱
- 包一个外层的Thread 执行,如果忘记外层包裹怎么办?如何控制线程资源?
各个线程更复杂的组合怎么办?
- 如果想要两个线程的任务结果都执行完毕 可以使用Thread#join 来实现
- 如果只要任意一个结果有返回就可以继续往下运行怎么做?可以使用Thread#join(long mills) 和检查结果值,或者浪费一个Thread 一直去做值的检查工作。代码实现如下:
while(true) {
t1.join(1000);
if (value != null) {
retrn t1Value;
}
t2.join(1000);
...
}
所以综合分析,直接使用 Thread 根本不靠谱。
新的魔法 - Java1.5+ Future
- java.util.concurrent.Future
- java se 5.0
- 可以将 Future 看做一个一个等待结果的容器,让我们可以尝试去获得结果 示例如下:
ExecutorService service = Executors.newCacheThreadPool();
Future f = service.submit(() -> downloadImage(xxx));
// 做些其他事情
// f.get() 得到结果
Future 异常处理
try {
renderImage(future.get());
} catch (Exception e) {
e.printCause(); // 打印执行时的错误
}
Future 其他方便的方法
// 取消某个工作
future.cancel(boolean);
// 判断是否取消
future.isCancelled();
// 工作是否完成
future.isDone();
但是 Future 还是有问题,特点如下:
- 传统 callback 的方式,变成外部可以自行再做处理
- 简单易懂
- 只有5个方法
- 阻塞式 API 来取得回传
- 不易组合再利用
1.8 终极大法 j.u.c.CompletableFuture
- java.util.concurrent
- Java SE 8
- implements Future, CompletionStage 示例:
CF cf = CompletableFuture.completableFuture("Value");
String result = cf.get();
// 阻塞等待结果
String result = cf.join();
// 非阻塞等待结果输出
cf.thenAccept(s -> System.out.println(s));
String load() {...}
// 非阻塞等待结果
CF cf = CompletableFuture.supplyAsync(() -> load());
// 非阻塞等待结果,并且指定使用某个线程池执行
CF cf = CompletableFuture.supplyAsync(() -> load() , executorService);
CF cf = ...;
CF length = cf.thenApply(data -> data.length());
cf1 = cf.thenApplyAsync(...);
cf2 = cf.thenApplyAsync(...);
CF cf = new CompletableFuture();
cf.thenAccept(s -> System.out.println(s););
CF cf = new CompletableFuture();
executor.submit(() -> {
String result = load();
cf.complete(result);
});
// 异常处理
executor.submit(() -> {
try {
String result = load();
cf.complete(result);
} catch (Exception e) {
cf.completeExceptionally(e);
}
});
cf.whenComplete(
(String s, Throable t) -> {
if (s != null) { System.out.println(s); }
else System.err.println(t);
}
);
比如目前存在这样的业务:先查找用户,查找到用户之后,再下载用户的头像图片,此时代码可以写成如下的方式:
CF> cf = findUser(1L).thenApply(user -> download(user));
CF cf = findUser(1L).thenCompose(user -> download(user));
更多的操作串下去呢?
CF cf = findUser(1L).thenCompose(user -> download(user))
.thenCompose(img -> save(img));
如果串起来的异步方法出现异常如何处理?
findUser(1L).thenApply(...)
.thenApply(...) // exception 处理
.thenCompose(...)
.whenComplete(...);
CompletableFuture#allOf
CF api1 = ...;
CF api2 = ...;
CF api3 = ...;
CF all = CompletableFuture.allOf(api1,api2,api3);
// 等待3个操作所有返回值
CF> result = all.thenApply(
v -> Arrays.asList(api1.get(), api2.get(), api3.get());
);
CompletableFuture#anyOf
// 等待其中任意一个结果返回
CF
API 中常见的行为
CF findUser(String id );
CF saveUser(String id );
CF downloadAvatar(String id);
findUser(...)
.thenCompoe(user -> saveUser(user.id))
.thenCompose(user -> downloadAvatar(user.id))
.thenAccept(img -> render(img));
CompletableFuture 多 key 查询
CF executeQuery(String id);
List> queries = ids.stream()
.map(id -> executeQuery(id))
.collect(toList());
// using allOf to let
// List> -> CF>
CF all = CF.allOf(queies.toArray());
CF> result = all.thenApply(v -> queies.stream().map(q -> q.join())
.collect(toList)
);
CompletableFuture 像极了 Data Flow
getOrderFromNetwork ---> listProducts --> sendMail
CompletableFuture 优点
- 事件驱动
- 容易组合
- 控制权可以交给呼叫者
- 减少Thread 的浪费
CompletableFuture 缺点
- Java8 中 Future/Promise 的混合,不少语言是分开的
- 爆多的方法数量
- 60+ 方法
注意
- CompletableFuture#cancel 方法不能取消正在执行的工作
- 尽量使用 Async 结尾的API
支持非同步的 WEB 框架
- Servlet 3.x+ AsyncContext
- SpringFramework Controller 的回传值直接用 CompletableFuture
- Play Framework
- Asynchronous web framework
- play.libs.F.Promise
思考一下 Web application
- 该不该用处理 http 的 thread 做事?
- Tomcat 有 max-threads 设定
- Play 本来就是 http 跟 worker 分离
- 每个要求的工作时间不一定相同
- 花多少时间?占多少比例?
- 花时间的工作有没有资源存取上限?
同步/异步请求简单测试
- Job:1500ms ~ 30%, 100 ms ~ 70%
- Tomcat max-threads 200
- ab -n 1000 -c 400
- Async ~ 375 requests/second
- Sync ~ 300 requests/second 如果方法处理速度很快,则传统写法会比异步方式更好。因为异步操作需要更多的操作和等待。
Reactive 编程
- Data Flow
- Java9 Flow API 支持
关注公众号,回复“spring”有惊喜!!!
本文由博客一文多发平台 OpenWrite 发布!