微服务学习笔记--高级篇--(Sentinel之限流规则)

上篇说到，解决雪崩问题有四种解决方案，而Sentinel主要是实现了其中的三种，分别是限流，也就是流量控制、线程隔离，也就是舱壁模式、最后还有降级熔断。

在这篇中，我们来学习限流规则。

目录：

限流规则

• 快速入门
• 流控模式
• 流控效果
• 热点参数限流

簇点链路

簇点链路：就是项目内的调用链路，链路中被监控的的每个接口就是一个资源。默认情况下sentinel会监控S平日那个MVC的每一个端点(Endpoint),因此SpringMVC的每一个端点(Endpoint)就是调用链中的一个资源。

####快速入门

点击资源/order/{orderId}后面的流控按钮，就可以弹出表单捐表单中可以添加流控规则

资源名：/order/{orderId}
阀值类型：QPS   单机阈值：1

其含义是限制/order/{orderId}这个资源的单机OPS为1，即每秒只允许1次请求，超出的请求会被拦截 并报错。

案例：流控规则入门案例

需求：给/order/{orderId}这个资源设置流控规则，QPS不能超过5。然后利用jemeter测试。

1.设置流控规则

资源名：/order/{orderId}
阀值类型：QPS   单机阈值：5

2.jemeter测试：

线程属性
线程数：20    #2秒内发送20个请求
Ramp-Up时间(秒)：2
循环次数：1

流控模式

在添加限流规则时，点击高级选项，可以选择三种流控模式：

• 直接：同级当前资源的请求，触发阈值时对当前资源直接限流，也是默认的模式
• 关联：统计与当前资源相关的另一个资源，触发阈值时，对当前资源限流 #有A和B两个资源，A触发了阈值，但是对B限流
• 链路：统计从指定链路访问到本资源的请求，触发阈值时，对指定链路限流 #A，B，C三个资源，A和B都要访问资源C，在统计资源C的时候，只统计从A发过来的请求，B过来的不管

资源名：/order/{orderId}
阈值类型：OPS  单机阈值：2
流控模式：直接、关联、链路

流控模式-关联

• 关联模式：统计与当前资源相关的另一个资源，触发阈值时，对当前资源限流
• 使用场景：比如用户支付时需要修改订单状态，同时用户要查询订单。查询和修改操作会争抢数据库锁，产生竞争。业务需求是有限支付和更新订单的业务，因此当修改订单业务触发阈值时，需要对查询订单业务限流。

资源名：/read
流控模式：关联
关联资源：/write

当/write资源访问量触发阈值时。就会对/read资源限流，避免影响/write资源。

案例：流控模式-关联

需求：

• 在OrderControler新建两个端点：/order/query和/order/update，无需实现业务
• 配置流控规则，当/order/update资源被访问的QPS超过5时，对/order/query请求限流

@RestController
@RequestMapping("order")
public class OrderController {
	@GetMapping("/query")
	public String queryOrder() {
		return "查询订单成功";
	}
		
	@GetMapping("/update")
	public String updateOrder() {
		return "更新订单成功";
	}
}

资源名：/query
流控模式：关联
关联资源：/update

小结:

满足下面条件可以使用关联模式：

• 两个有竞争关系的资源
• 一个优先级较高，一个优先级较低

案例：流控模式-链路

需求：有查询订单和创建订单业务，两者都需要查询商品。针对从查询订单进入到查询商品的请求统计，并设置限流。

步骤：
1.在OrderService中添加一个queryGoods方法，不用实现业务
2.在OrderController中，改造/order/query端点，调用OrderService中的queryGoods
3.在OrderController中添加一个/order/save的端点，调用OrderService的queryGoods方法
4.给queryGoods设置限流规则，从/order/query进入queryGoods的方法限制QPS必须小于2

OrderService.java

public void queryGoods(){log.error("查询商品")}

OrderController.java

@RestController
@RequestMapping("order")
public class OrderController {
	@GetMapping("/query")
	public String queryOrder() {
	    //查询商品
	    orderService.queryGoods();
	    log.info("查询订单")
		return "查询订单成功";
	}
		
	@GetMapping("/save")
	public String saveOrder() {
	    //查询商品
	    orderService.queryGoods();
		return "新增订单成功";
	}
}

Sentinel默认只标记Controller中的方法为资源，如果要标记其它方法，需要利用@SentinelResource注解，示例：

@SentinelResouce("goods")
public void queryGoods() {
	log.error("查询商品");
}

Sentinel默认会将Controller方法做context整合，导致链路模式的流控失效，需要修改application.xml，添加配置：

spring:
  cloud:
    sentinel:
      web-context-unify: false #关闭context整合

资源名：goods
阀值类型：QPS  单机阈值：2
流控模式：链路
入口资源：/order/query

这样/order/query接口。如果每秒发起4个请求，就有的发不出去。

总结：

流控模式有哪些？

• 直接：对当前资源限流
• 关联：高优先级资源触发阈值，对低优先级资源限流。
• 链路：阈值统计时，只统计从指定资源进入当前资源的请求，是对请求来源的限流

流控效果
流控效果是指请求达到流控阈值时应该采取的措施，包括三种：

• 快速失败：达到阈值后，新的请求会被立即拒绝并抛出FlowException异常。是默认的处理方式。
• warm up：预热模式，对超出阈值的请求同样是拒绝并抛出异常。但这种模式阈值会动态变化，从一个较小值逐渐增加到最大阈值。
• 排队等待：让所有的请求按照先后次序排队执行，两个请求的间隔不能小于指定时长

流控模式：链路
入口资源：/order/query
流控效果：快速失败  Warm Up  排队等待

流控效果-warm up

warm up也叫预热模式，是应对服务冷启动的一种方案。请求阈值初始值是threshold/coldFactor，持续指定时长后，逐渐提高到threshold值。而coldFactor的默认值是3

例如，设置QPS的threshold为10，预热时间为5秒，那么初始阈值就是10/3，也就是3，然后在5秒后逐渐增长到10

案例：流控效果-warm up

需求：给/order/{orderId}这个资源设置限流，最大QPS为10，利用warm up效果，预热时长为5秒

资源名：/order/{orderId}
阀值类型：QPS  单机阈值：10
流控模式：直接
流控效果：Warm up
预热时长：5

设置QPS的threshold为10，预热时间为5秒，那么初始阈值就是10/3，也就是3，然后在5秒后逐渐增长到10

如果2s发起20个请求的话，最开始只有3个请求会通过，然后慢慢增加，5秒的时候，10个请求都会通过

流控效果-排队等待

当请求超过QPS阈值时，快速失败和warm up会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中，然后按照阈值允许的时间间隔依次执行。后来的请求必须等待前面执行完成，如果请求预期的等待时间超过最大时长，则会被拒绝。

例如：QPS =5，意味着每200ms处理一个队列中的请求；timeout=2000，意味着预期等待超过2000ms的请求会被拒绝并抛出异常

案例：流控效果-排队等待

需求：给/order/{orderId}这个资源设置限流，最大QPS为10，利用排队的流控效果，超时时长设置为5s

资源名：/order/{orderId}
阀值类型：QPS  单机阈值：10
流控模式：直接
流控效果：排队等待
预热时长：5000

测试，20秒发送300个请求，QPS是15 超过我们配置的10了，但是可以看到我们的请求都发送成功了。

总结：

流控效果有哪些？

• 快速失败：QPS超过阈值时，拒绝新的请求
• warm up：QPS超过阈值时，拒绝新的请求；QPS阈值是逐渐提示的，可以避免冷启动时高并发导致服务宕机
• 排队等待：请求会进入队列，按照阈值允许的时间间隔依次执行请求；如果请求预期等待时长大于超时时间，直接拒绝

#### 热点参数限流

之前的限流是统计访问某个资源的所有请求，判断是否超过QPS阈值。而热点参数限流是分别统计参数值相同的请求，判断是否超过QPS阈值。

比如/good/{id}来了四个请求 id=1，id=1，id-1，id=2

参数值	QPS
id=1	3
id=2	1

配置示例：

资源名：hot
限流模式：QPS模式
参数索引：0
单机阈值：5  统计窗口时长：1

代表的含义是：对hot这个资源的0号参数(第一个参数)做统计，每1秒相同参数值的请求不能超过5

在热点参数限流的高级选项中，可以对部分参数设置例外配置：

参数类型：long
参数值        参数类型     限流阀值  
100             long            10
101             long             15

结合上一个配置，这里的含义是对0号的long类型参数限流，每1秒相同参数的QPS不能超过5，有两个例外：

• 如果参数值是100，则每1秒允许的QPS为10
• 如果参数值是101，则每1秒允许的QPS为15

案例：热点参数限流

给/order/{orderId}这个资源添加热点参数限流，规则如下：

• 默认的热点参数规则是每1秒请求量不超过2
• 给102这个参数设置例外：每1秒请求量不超过4
• 给103这个参数设置例外：每1秒请求量不超过10

注意:热点参数限流对默认的SpringMVC资源无效

OrderController.java

@RestController
@RequestMapping("order")
public class OrderController{
	@Autowired
	private OrderService orderService;

	@SentinelResource("hot")
	@GetMapping("{orderId}")
	public Order queryOrderByUserId(@PathVariable("orderId") Long orderId){
		// 根据id查询订单并返回
		return orderService.queryOrderById(orderId);
	}
}

资源名：hot
限流模式：QPS模式
参数索引：0
单机阈值：2   统计窗口时长：1秒
参数类型：long
参数值   参数类型   限流阈值
102         long          4
103         long         10