在单体项目里面,如果某一个模块出问题会导致整个项目都有问题。
在微服务项目里面,单独一个服务出问题理论上是不会影响别的服务的。 但是如果有别的业务需要调用这一个模块的话还是会有问题。
最初那只是一个小小的故障。后来随着调用的服务越来越多,然后等待时消耗完了系统资源,然后就集体蹦了。
高并发引发的问题可以通过限流解决.
请求限流用于避免服务故障。
线程隔离用于避免故障扩散.限制了线程数之后这个服务就不会因为调用别的服务导致自身资源消耗殆尽。
为了防止线程资源一直被占用,这里还要做一个服务熔断,让出线程给别的服务。
发生熔断时直接走提前编写的fallback逻辑。这个就是服务降级。舍弃一部分保证整个微服务群的健康。
可以在控制台去配置限流规则,熔断规则等等。
Sentinel 的使用可以分为两个部分:
核心库(Jar包):不依赖任何框架/库,能够运行于 Java 8 及以上的版本的运行时环境,同时对 Dubbo / Spring Cloud 等框架也有较好的支持。在项目中引入依赖即可实现服务限流、隔离、熔断等功能。
控制台(Dashboard):Dashboard 主要负责管理推送规则、监控、管理机器信息等。
利用给好的jar包,在命令行用如下命令启动
java -Dserver.port=8090 -Dcsp.sentinel.dashboard.server=localhost:8090 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard.jar
访问http://localhost:8090页面,就可以看到sentinel的控制台了:
需要输入账号和密码,默认都是:sentinel
登录后,即可看到控制台,默认会监控sentinel-dashboard服务本身:
访问一次之后,就可以顺利被监控了。
拉取镜像
docker pull docker.io/bladex/sentinel-dashboard
创建容器
docker run --name sentinel -d -p 8858:8858 -d 镜像id
然后剩下的就是改改ip+端口,都是和上面一样的使用方法。
这个东西应该就是让微服务自己把自己的状况快照发送到sentinel,然后由sentinel根据定义的规则决定是否限流熔断等等。不是由sentinel主动发起监控,不然云服务器里面的sentinel怎么可能监控的到我本地的运行项目。
tmd,搞错了。这个玩意没办法从云端监控我的本地项目,只有第一次是本地项目主动发起的。剩下的都是要由sentinel发起监控.
可以看见,设置每秒一条之后,多出的请求会被sentinel拦截。
添加一个每秒10的阈值之后使用jmeter进行50条线程2s内跑完的任务进行压力测试。
结果无误,2s内只有20条请求正常响应,剩下的全都被异常处理了。
关联模式:这个模式是在某两个业务差不多同时发生时,通过限流其中一个业务的方式为另一个业务让行。
然后给query加流控规则,当update1s超过5个请求时对query限流。
jmeter测试,1000个线程100s执行完,也就是每秒10个请求. 可以的看见query被限流了。
sentinel默认只会监控controller的资源,所以要用到sentinel的注解。
链路模式中,是对不同来源的两个链路做监控。但是sentinel默认会给进入SpringMVC的所有请求设置同一个root资源,会导致链路模式失效。
重新配置之后可以看见,service层的资源也被监控了。为其中一个goods设置流控。
使用jmeter进行200个线程20s的压测,初始时成功的只有3个,说明初始阈值就是3,20s里后面每一秒内能通过的线程数也是组件上升。
使用jemter进行300个线程20s执行完的压测,qps是15.可以看见,后面大多数请求的响应时间都是接近5s了。这里起到了一个流量整形的作用。
只有那些通过@SentinelResource注解配置的资源才有效。
所以要现在controller的资源上面添加注解。
重启后可以看见hot的簇点链路。
使用jmeter发起3个500线程100s的请求,分别对应三种参数,qps为5.
然后结果如下,jmeter中101的是每秒2个成功,102是每秒4个,103是全部。
例如在查询订单的时候,会发起远程调用去查询用户信息。这里就可以编写调用失败后的降级逻辑。
这里启动时会有一个循环依赖的错误。
这里要在order-service服务里面自动注入UserClient时加上@Lazy注解。
或者是在启动类里添加@ComponentScan来扫描feign的包.两个方法都可以
@Autowired
@Lazy
private UserClient userClient;
这里运行时也还是会有循环依赖的报错.要将父工程里面的springcloud版本号改成SR8。这次才是真正解决问题.加上@Lazy只是延迟问题发生的时机。
这次在service层的hot下终于可以看见利用feign发起远程调用的接口了。
低扇出就是这个服务需要调用的服务较少。
线程池的做法是会开启独立线程的,而信号量的做法则不会。
在jmeter中开启10个线程要求0s内完成。理论上是由8个线程会被拒绝的.
但是因为前面做了降级处理,会返回一个空对象而不是报错所以在控制台才可以看见报错的日志信息。不多不少,正好8个.
下面是sentinel断路器的三个状态和状态之间的切换。需要配置的两个重要参数有,熔断持续时间和熔断的阈值。
发生熔断之后成功阻塞了这个接口。
测试,然后尝试直接访问order-service时就会报错.
然后通过gateway网关访问就可以正常访问
修改返回的限流异常为授权拦截.
通过实现下面的接口将所有不同类型的异常分别处理。
@Component
public class SentinelExceptionHandler implements BlockExceptionHandler {
@Override
public void handle(HttpServletRequest request, HttpServletResponse response, BlockException e) throws Exception {
String msg = "未知异常";
int status = 429;
if (e instanceof FlowException) {
msg = "请求被限流了";
} else if (e instanceof ParamFlowException) {
msg = "请求被热点参数限流";
} else if (e instanceof DegradeException) {
msg = "请求被降级了";
} else if (e instanceof AuthorityException) {
msg = "没有权限访问";
status = 401;
}
response.setContentType("application/json;charset=utf-8");
response.setStatus(status);
response.getWriter().println("{\"msg\": " + msg + ", \"status\": " + status + "}");
}
}
sentinel把规则保存在内存里,重启就会自动丢失。
在order-service中引入sentinel监听nacos的依赖:
com.alibaba.csp
sentinel-datasource-nacos
在order-service中的application.yml文件配置nacos地址及监听的配置信息:
spring:
cloud:
sentinel:
datasource:
flow:
nacos:
server-addr: localhost:8848 # nacos地址
dataId: orderservice-flow-rules
groupId: SENTINEL_GROUP
rule-type: flow # 还可以是:degrade、authority、param-flow
flow是持久化的,defrade是降级的
tmd,看着教程巨几把麻烦,以后用服务器厂商提供的应该也不用我来搞这些,就不做了,以后有需求再来看吧.
可以看见最后实现效果如下,在指定页面添加的规则就会自动持久化到nacos.