雪崩问题:
当服务A依赖的服务B出现故障,服务A中的请求一直等待,导致服务A中的连接数变高,最终可能导致服务A也出现问题,然后依赖服务A的服务也出现问题,导致整个微服务集群出现问题。
解决方法:
Sentinel主要实现的就是舱壁模式、熔断降级和限流。
** ** | Sentinel | Hystrix |
---|---|---|
隔离策略 | 信号量隔离 | 线程池隔离/信号量隔离 |
熔断降级策略 | 基于慢调用比例或异常比例 | 基于失败比率 |
实时指标实现 | 滑动窗口 | 滑动窗口(基于 RxJava) |
规则配置 | 支持多种数据源 | 支持多种数据源 |
扩展性 | 多个扩展点 | 插件的形式 |
基于注解的支持 | 支持 | 支持 |
限流 | 基于 QPS,支持基于调用关系的限流 | 有限的支持 |
流量整形 | 支持慢启动、匀速排队模式 | 不支持 |
系统自适应保护 | 支持 | 不支持 |
控制台 | 开箱即用,可配置规则、查看秒级监控、机器发现等 | 不完善 |
常见框架的适配 | Servlet、Spring Cloud、Dubbo、gRPC 等 | Servlet、Spring Cloud Netflix |
线程池隔离:每个服务都有一个线程池
信号量隔离:一个线程池,统计每个业务使用的线程数量。
Sentinel是阿里巴巴开源的一款微服务流量控制组件。官网地址:https://sentinelguard.io/zh-cn/index.html
Sentinel 具有以下特征:
sentinel官方提供了UI控制台,方便我们对系统做限流设置。大家可以在GitHub下载。https://github.com/alibaba/Sentinel/releases
您可以从 release 页面 下载最新版本的控制台 jar 包。
您也可以从最新版本的源码自行构建 Sentinel 控制台:
mvn clean package
注意:启动 Sentinel 控制台需要 JDK 版本为 1.8 及以上版本。
使用如下命令启动控制台:
java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=localhost:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard.jar
其中 -Dserver.port=8080
用于指定 Sentinel 控制台端口为 8080
。
从 Sentinel 1.6.0 起,Sentinel 控制台引入基本的登录功能,默认用户名和密码都是 sentinel
。可以参考 鉴权模块文档 配置用户名和密码。
注:若您的应用为 Spring Boot 或 Spring Cloud 应用,您可以通过 Spring 配置文件来指定配置,详情请参考 Spring Cloud Alibaba Sentinel 文档。
配置项 | 默认值 | 说明 |
---|---|---|
server.port | 8080 | 服务端口 |
sentinel.dashboard.auth.username | sentinel | 默认用户名 |
sentinel.dashboard.auth.password | sentinel | 默认密码 |
控制台启动后,客户端需要按照以下步骤接入到控制台。
客户端需要引入 Transport 模块来与 Sentinel 控制台进行通信。您可以通过 pom.xml
引入 JAR 包:
<dependency>
<groupId>com.alibaba.cloudgroupId>
<artifactId>spring-cloud-starter-alibaba-sentinelartifactId>
dependency>
添加配置:
spring:
cloud:
sentinel:
transport:
dashboard: 192.168.0.105:9999
访问微服务的任意端点,触发sentinel监控
就是项目内的调用链路,链路中被监控的每个接口就是一个资源。默认情况下sentinel会监控SpringMVC的每一个端点(Endpoint),因此SpringMVC的每一个端点(Endpoint)就是调用链路中的一个资源。
流控、熔断等都是针对簇点链路中的资源来设置的,因此我们可以点击对应资源后面的按钮来设置规则:
击资源/order/{orderId}后面的流控按钮,就可以弹出表单。表单中可以添加流控规则,如下图所示:
来源:default对于所有的请求生效
其含义是限制 /order/{orderId}这个资源的单机QPS为xx,即每秒只允许n次请求,超出的请求会被拦截并报错。
在添加限流规则时,点击高级选项,可以选择三种流控模式:
关联模式:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
使用场景:比如用户支付时需要修改订单状态,同时用户要查询订单。查询和修改操作会争抢数据库锁,产生竞争。业务需求是优先支付和更新订单的业务,因此当修改订单业务触发阈值时,需要对查询订单业务限流。
1、ordercontroller新增2个资源
@GetMapping("query")
public String queryOrder(){
return "查询订单成功";
}
@GetMapping("update")
public String updateOrder(){
return "update ok";
}
2、query请求设置,当关联资源update超过5的时候,给query限流
3、使用Jemeter工具对order/update每秒发起10次调用,然后访问order/query。可以发现请求失败。
只针对从指定链路访问到本资源的请求做统计,判断是否超过阈值。
需求:有查询订单和创建订单业务,两者都需要查询商品。针对从查询订单进入到查询商品的请求统计,并设置限流。
步骤:
@GetMapping("query")
public String queryOrder(){
orderService.queryGoods();
log.info("查询订单");
return "查询订单成功";
}
@GetMapping("save")
public String saveOrder(){
orderService.queryGoods();
log.info("新增订单");
return "save ok";
}
//service
public void queryGoods(){
System.out.println("查询商品");
}
Sentinel默认只标记Controller中的方法为资源,如果要标记其它方法,需要利用@SentinelResource注解,示例:
@SentinelResource("goods")
public void queryGoods(){
System.out.println("查询商品");
}
Sentinel默认会将Controller方法做context整合,同一个controller作为同一个链路,导致链路模式的流控失效,需要修改application.yml,添加配置:
spring:
cloud:
sentinel:
transport:
dashboard: 192.168.0.105:9999
web-context-unify: false #关闭context整合
给goods添加流控,限制query来源的qps为2
流控效果是指请求达到流控阈值时应该采取的措施,包括三种:
warm up
warm up也叫预热模式,是应对服务冷启动的一种方案。请求阈值初始值是 threshold / coldFactor,持续指定时长后,逐渐提高到threshold值。而coldFactor的默认值是3.
例如,我设置QPS的threshold为10,预热时间为5秒,那么初始阈值就是 10 / 3 ,也就是3,然后在5秒后逐渐增长到10.
排队等待
当请求超过QPS阈值时,快速失败和warm up 会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中,然后按照阈值允许的时间间隔依次执行。后来的请求必须等待前面执行完成,如果请求预期的等待时间超出最大时长,则会被拒绝。
例如:QPS = 5,意味着每200ms处理一个队列中的请求;timeout = 2000,意味着预期等待超过2000ms的请求会被拒绝并抛出异常
之前的限流是统计访问某个资源的所有请求,判断是否超过QPS阈值。而热点参数限流是分别统计参数值相同的请求,判断是否超过QPS阈值。
热点参数限流对默认的SpringMVC资源无效
1、设置热点资源
@SentinelResource("hot")
@GetMapping("{orderId}")
public Order queryOrderByUserId(@PathVariable("orderId") Long orderId,
@RequestHeader(value = "X-Request-other", required = false) String other) {
log.info("header is:{}", other);
// 根据id查询订单并返回
return orderService.queryOrderById(orderId);
}
2、重启服务后添加配置