gb4215287

sentinel熔断与限流(详细2)

概述
sentinel以流量为切入点，从流量控制、熔断降级、系统负载保护等多个维度保护服务的稳定性。

sentinel主要特性：

sentinel组件有两部分组成（前台+后台）：

核心库（Java客户端）不依赖任何框架/库，能够运行于所有Java运行时环境，同时对Dubbo/spring cloud等框架也有较好的支持。
控制台（dashboard）基于spring boot开发，打包后可以直接运行，不需要额外的tomcat等应用容器。
下载sentinel-dashboard-1.7.0.jar，需要Java8环境并且8080端口不被占用，运行命令：

java -jar sentinel-dashboard-1.7.0.jar
1
登录sentinel管理界面http://localhost:8080，账号密码都为sentinel。

初始化工程
启动nacos8848。
新建cloudalibaba-sentinel-service8401模块。
pom.xml

org.springframework.cloud
spring-cloud-starter-openfeign


com.alibaba.cloud
spring-cloud-starter-alibaba-sentinel


com.alibaba.csp
sentinel-datasource-nacos

com.alibaba.cloud
spring-cloud-starter-alibaba-nacos-discovery

org.springframework.boot
spring-boot-starter-web

org.springframework.boot
spring-boot-starter-actuator

org.springframework.boot
spring-boot-devtools
runtime
true

org.projectlombok
lombok
true

org.springframework.boot
spring-boot-starter-test
test

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
application.yml

server:
   port: 8401
spring:
   application:
       name: cloudalibaba-sentinel-service
   cloud:
       nacos:
           discovery:
               server-addr: localhost:8848
       sentinel:
           transport:
               dashboard: localhost:8080 # 配置sentinel dashboard地址
               port: 8719 # 默认8719端口，如果被占用则依次+1扫描

management:
   endpoints:
       web:
           exposure:
               include: '*'

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
MainApp8401

@EnableDiscoveryClient
@SpringBootApplication
public class MainApp8401 {

   public static void main(String[] args) {
       SpringApplication.run(MainApp8401.class,args);
   }

}
1
2
3
4
5
6
7
8
9
FlowLimitController

@RestController
public class FlowLimitController {
   @GetMapping("/testA")
   public String testA() {
       return "----testA";
   }

   @GetMapping("/testB")
   public String testB() {
       return "----testB";
   }
}
1
2
3
4
5
6
7
8
9
10
11
12
sentinel使用懒加载机制，执行一次访问http://localhost:8401/testA

流控规则

资源名：唯一名称，默认请求路径。
针对来源：sentinel可以针对调用者进行限流，填写微服务名，默认default（不区分来源）。
阈值类型/单机阈值：

QPS（每秒请求数量）：当调用该API的QPS达到阈值的时候，进行限流。
线程数：当调用该API的线程数达到阈值的时候，进行限流。
是否集群：不需要集群。

流控模式：

直接：API达到限流条件时，直接限流。
关联：当关联的资源达到阈值时，就限流自己。
链路：只记录指定链路上的流量（指定资源从入口资源进来的流量，如果达到阈值，就进行限流）
流控效果：

快速失败：直接失败，抛异常。
Warm Up：根据codeFactor（冷加载因子，默认3）的值，从阈值/codeFactor开始，经过预热时长，才达到设置的QPS阈值。
排队等待：匀速排队，让请求以匀速的速度通过，阈值类型必须设置为QPS，否则无效。
QPS直接快速失败
配置流控规则：

qps超过1则限流。

关联
当关联的资源/testB的qps超过阈值1后，就限流/testA自己。

预热

阈值为10，预热时长设置5秒，系统初始化的阈值为10/3约等于3，即阈值刚开始为3，然后过5秒后阈值才慢慢升高恢复到10。

秒杀系统在开启瞬间，会有很多流量上来，很有可能把系统打死，预热方式就是为了保护系统，慢慢把流量放进来。

排队等待

匀速排队，让请求以均匀的速度通过，阈值类型必须设成QPS，否则无效。对应的是漏桶算法。

/testA每秒1次请求，超时的话就排队等待，等待的超时时间为20000毫秒。

降级规则

RT（平均响应时间，秒级）：平均响应时间超出阈值且在时间窗口内通过的请求>=5，两个条件同时满足后触发降级，窗口期过后关闭断路器，RT最大4900（更大的需要通过-Dcsp.sentinel.statistic.max.rt=XXXX才能生效）。

异常比例（秒级）：QPS>=5且异常比例（秒级统计）超过阈值，触发降级；时间窗口结束后，关闭降级。

异常数（分钟级）：异常数（分钟统计）超过阈值，触发降级；时间窗口结束后，关闭降级。

sentinel熔断降级会在调用链路中某个资源出现不稳定状态时（例如调用超时或异常比例升高），对这个资源的调用进行限制，让请求快速失败，避免影响到其他的资源而导致级联错误。

当资源被降级后，在接下类的降级时间窗口之内，对该资源的调用都自动熔断（默认行为是抛出DegradeException）。

sentinel断路器是没有半开状态的。

半开状态系统自动去检测是否请求有异常，没有异常就关闭断路器恢复使用，有异常则继续打开断路器不可用，可参考hystrix。

@GetMapping("/testD")
public String testD() {
try{ TimeUnit.SECONDS.sleep(1); } catch(InterruptedException e) { e.printStackTrace(); }
return "----testD";
}

1
2
3
4
5
6
设置sentinel：

配置jmeter：

一秒钟打进来10个线程调用testD，并且一个线程需要处理1秒，所以断路器打开，微服务不可用。

异常比例

@GetMapping("/testD")
public String testD() {
int a = 10 / 0;
return "----testD";
}

1
2
3
4
5
6

异常数

@GetMapping("/testD")
public String testD() {
int a = 10 / 0;
return "----testD";
}

1
2
3
4
5
6
刚开始访问报错，达到五次报错后，进入熔断降级。

热点key限流
热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的TopK数据，并对其访问进行限制。比如：

商品ID为参数，统计一段时间内最常购买的商品ID并进行限制。
用户ID为参数，针对一段时间内频繁访问的用户ID并进行限制。
热点参数限流会统计传入参数中的热点参数，并根据配置的限流阈值与模式，对包含热点参数的资源调用进行限流。热点参数限流可以看作是一种特殊的流量控制，仅对包含热点参数的资源调用生效。

@GetMapping("/testHotKey")
@SentinelResource(value = "testHotKey", blockHandler = "deal_testHotKey")
public String testHotKey(@RequestParam(value = "p1",require = false) String p1, @RequestParam(value = "p2",require = false) String p2) {
return "testHotKey";
}

public String deal_testHotKey(String p1, String p2, BlockException ex) {
return "deal_testHotKey";
}
1
2
3
4
5
6
7
8
9

方法testHotKey里面第一个参数只要QPS超过每秒1次，马上降级处理。

参数例外项
如果期望p1参数当它是某个特殊值时，它的限流值和平时不一样。假如当p1的值等于5时，它的阈值可以达到200。

系统规则
系统保护规则是从应用级别的入口流量进行控制，从单台机器的load、CPU使用率、平均RT、入口QPS和并发线程数等几个维度监控应用指标，让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。

系统保护规则是应用整体维度的，而不是资源维度的，并且仅对入口流量生效。入口流量指的是进入应用的流量，比如web服务或dubbo服务端接收的请求，都属于入口流量。

系统规则支持以下的模式：

load自适应（仅对linux/unix-like机器生效）：系统的load1作为启发指标，进行自适应系统保护。当系统load1超过设定的启发值，且系统当前的并发线程数超过估算的系统容量时才会触发系统保护（BBR阶段）。系统容量由系统的maxQps * minRt估算得出。设定参考值一般CPU cores * 2.5。
CPU usage：当系统CPU使用率超过阈值即触发系统保护（取值范围0.0-1.0），比较灵敏。
平均RT：当单台机器上所有入口流量的平均RT达到阈值即触发系统保护，单位是毫秒。
并发线程数：当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。
入口QPS：当单台机器上所有入口流量的QPS达到阈值即触发系统保护。

@SentinelResource配置
按资源名称限流
@RestController
public class RateLimitController {
   @GetMapping(value = "/byResource")
   @SentinelResource(value = "byResource", blockHandler = "handleException")
   public CommonResult byResource() {
       return new CommonResult(200,"OK",new Payment(2020L,"serial001"));
   }
   public CommonResult handleException(BlockException ex) {
       return new CommonResult(444,ex.getClass().getCanonicalName());
   }
}
1
2
3
4
5
6
7
8
9
10
11

按URL地址限流
@RestController
public class RateLimitController {
   @GetMapping(value = "/rateLimit/byUrl")
   @SentinelResource(value = "byUrl")
   public CommonResult byUrl() {
       return new CommonResult(200,"OK",new Payment(2020L,"serial002"));
   }
}
1
2
3
4
5
6
7
8

自定义限流处理逻辑
RateLimitController

@RestController
public class RateLimitController {
   @GetMapping(value = "/rateLimit/customerBlockHandler")
   @SentinelResource(value = "customerBlockHandler", blockHandlerClass = CustomerBlockHandler.class, blockHandler = "handlerException2")
   public CommonResult customerBlockHandler() {
       return new CommonResult(200,"OK",new Payment(2020L,"serial002"));
   }
}
1
2
3
4
5
6
7
8
CustomerBlockHandler

public class CustomerBlockHandler{
   public static CommonResult handlerException1(BlockException ex) {
       return new CommonResult(4441,ex.getClass().getCanonicalName());
   }
   public static CommonResult handlerException2(BlockException ex) {
       return new CommonResult(4442,ex.getClass().getCanonicalName());
   }
}
1
2
3
4
5
6
7
8

服务熔断功能
基本环境搭建
sentinel整合ribbon+openFeign+fallback

服务提供者
创建cloudalibaba-provider-payment9003/9004模块

server:
   port: 9003
spring:
   application:
       name: nacos-payment-provider
   cloud:
       nacos:
           discovery:
               server-addr: localhost:8848

management:
   endpoints:
       web:
           exposure:
               include: '*'
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
PaymentMain9003

@SpringBootApplication
@EnableDiscoveryClient
public class PaymentMain9003{

   public static void main(String[] args) {
       SpringApplication.run(PaymentMain9003.class,args);
   }

}
1
2
3
4
5
6
7
8
9
PaymentController

@RestController
public class PaymentController{
@Value("${server.port}")
private String serverPort;

   public static HashMap hashMap = new HashMap<>();
   static {
       hashMap.put(1L,new Payment(1L,"111"));
       hashMap.put(2L,new Payment(2L,"222"));
       hashMap.put(3L,new Payment(3L,"333"));
   }
   @GetMapping("/paymentSQL/{id}")
   public CommonResult paymentSQL(@PathVariable("id") Long id) {
       Payment payment = hashMap.get(id);
       CommonResult result = new CommonResult(200,"ok"+serverPort,payment);
       return result;
   }
}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
服务消费者
创建cloudalibaba-consumer-nacos-order84模块.

server:
   port: 84
spring:
   application:
       name: nacos-order-consumer
   cloud:
       nacos:
           discovery:
               server-addr: localhost:8848
       sentinel:
           transport:
               dashboard: localhost:8080
               port: 8719

service-url:
   nacos-user-service: http://nacos-payment-provider

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
OrderNacosMain84

@SpringBootApplication
@EnableDiscoveryClient
public class OrderNacosMain84{

   public static void main(String[] args) {
       SpringApplication.run(OrderNacosMain84.class,args);
   }

}
1
2
3
4
5
6
7
8
9
ApplicationContextConfig

@Configuration
public class ApplicationContextConfig{
   @Bean
   @LoadBalanced
   public RestTemplate getRestTemplate() {
       return new RestTemplate();
   }
}
1
2
3
4
5
6
7
8
CircleBreakerController