SpringMVC异步化请求初探

SpringMVC异步化请求初探

同步请求

在servlet3.0之前，servlet在同一个线程中解析，处理，响应http请求

Created with Raphaël 2.1.0 客户端 客户端 服务器 服务器 http request 解析，处理，生成响应 http response

异步化请求

servlet3.0之后，servlet提供asyncContext支持异步请求，是的解析，返回请求的线程和处理请求的线程资源分离。

Created with Raphaël 2.1.0 客户端 客户端 服务器 服务器 业务线程池 业务线程池 http request 解析请求 submit 处理请求 complete 返回响应 http response

异步化使得原本同步调用时阻塞的线程资源释放出来，可以提高服务器并发性能(有利有弊，同时增加了平均响应时长)。

同时因为处理请求的线程池交由自己管理，就可以根据业务重要性创建多个线程池，特别是在一个项目中有多个业务在运行时：

1. 把业务分为核心业务和非核心业务
2. 为不同级别的业务定义不同的线程池，线程池之间是隔离的
3. 根据不同业务量设置线程池大小

此时在一个池中的业务发生接口或者数据库访问慢的情况，并不会对其他线程池产生影响。

我们还可以(作死)在线上动态调整线程池的大小，或者在服务器线程满的情况下reject一部分请求，保证服务的持续性。

SpringMVC异步化请求

SpringMVC已经对servlet async context使用进行了封装，方便我们使用异步请求。

我们需要改写Controller中handler方法的返回值类型为DeferredResult,
然后在其他线程中调用deferredResult.setResult(result)完成响应。

简单的代码示例：

    private ExecutorService executorService = Executors.newFixedThreadPool(10);

    @ResponseBody
    @RequestMapping("/async")
    public DeferredResult> test(){
        DeferredResult> deferredResult = new DeferredResult<>();
        executorService.submit(()->asyncTest(deferredResult));
        return deferredResult;
    }

    public void asyncTest(DeferredResult> deferredResult) {
         Map<String, Object> result = Maps.newHashMap();
        result.put("key","value");
        deferredResult.setResult(result);
    }

使用RxJava2 进行异步化

SpringMVC 4.0还不支持Reactive编程…不过提供了不少扩展点，可以让我们使用RxJava方便线程切换。

先实现AsyncHandlerMethodReturnValueHandler,让Controller handler可以处理RxJava2.0的Single对象。

public class SingleReturnValueHandler implements AsyncHandlerMethodReturnValueHandler {

    @Override
    public boolean isAsyncReturnValue(Object returnValue, MethodParameter returnType) {
        return returnValue != null && supportsReturnType(returnType);
    }

    @Override
    public boolean supportsReturnType(MethodParameter returnType) {
        return Single.class.isAssignableFrom(returnType.getParameterType());
    }

    @SuppressWarnings("unchecked")
    @Override
    public void handleReturnValue(Object returnValue, MethodParameter returnType, ModelAndViewContainer mavContainer, NativeWebRequest webRequest) throws Exception {

        if (returnValue == null) {
            mavContainer.setRequestHandled(true);
            return;
        }

        final Single single = Single.class.cast(returnValue);

        DeferredResult