SpringCloud Alibaba之Sentinel的流控规则简介

所有代码都在github上:https://github.com/demonruin/cloud2020/tree/master

一、流控规则 :流量限制控制规则

Sentinel-dashboard中的流控规则菜单项:

SpringCloud Alibaba之Sentinel的流控规则简介_第1张图片

  • 资源名:唯一名称,默认请求路径
  • 针对来源: Sentine可以针对调用者进行限流,填写微服务名,默认default (不区分来源)
  • 阈值类型/单机阈值:
    •  QPS (每秒钟的请求数量) :当调用该api的QPS达到阈值的时候,进行限流
    •  线程数:当调用该api的线程数达到阈值的时候,进行限流
  • 是否集群:不需要集群
  • 流控模式:
    •  直接: api达到限流条件时,直接限流
    •  关联:当关联的资源达到阈值时,就限流自己
    •  链路:只记录指定链路上的流量(指定资源从入口资源进来的流量,如果达到阈值,就进行限流) [ api级别的针对来源]
  • 流控效果:
    •   快速失败:直接失败,抛异常
    •   Warm Up:根据codeFactor (冷加载因子,默认3)的值,从阈值/codeFactor, 经过预热时长,才达到置的QPS阈值
    •  排队等待:匀速排队,让请求以匀速的速度通过,阈值类型必须设置为QPS,否则无效

二、流控模式:

配置流控模式有两种方法:

1、在簇点链路中找到对应的资源名(即访问路径---唯一的),然后操作添加 流控SpringCloud Alibaba之Sentinel的流控规则简介_第2张图片

2、在流控规则里面  新增流控规则 填写 资源名等配置,和1操作等同SpringCloud Alibaba之Sentinel的流控规则简介_第3张图片

下面对不同的模式进行测试:

1、default模式:

就是直接-->快速失败模式  也即系统默认模式,进行测试设置,查看测试结果:设置default、QPS类型,单机阈值为1(即1秒请求一次),流控模式为直接、流控效果为快速失败。SpringCloud Alibaba之Sentinel的流控规则简介_第4张图片

测试结果:当每秒请求一次的时候,正常响应结果,当每秒请求次数超过一次的时候,会出现快速失败结果Blocked by Sentinel (flow limiting),如图下:SpringCloud Alibaba之Sentinel的流控规则简介_第5张图片

这种是直接调用默认的报错方法,应该还会有自定义的fallback方法进行我们自己的后续处理,后续再讲这部分~

当我们将阈值类型 改为 线程数的时候,就没有下面的流控效果配置了:SpringCloud Alibaba之Sentinel的流控规则简介_第6张图片

此时的意思和QPS就不太一样了,

QPS是直接让一波请求过来的时候只放一个进来,其他的就快速失败;

而线程数设置是指接口就一个能进行处理请求,把请求全部放进来,等处理请求处理不过来的时候,就快速失败。

测试:在testA接口中添加睡眠一段时间,进行测试

 @GetMapping("/testA")
    public String testA()
    {
        try {TimeUnit.MILLISECONDS.sleep(1000);} catch (InterruptedException e) {e.printStackTrace();}
        return "------testA";
    }

开启两个窗口,进行来回切换快速刷新来访问接口testA来测试能不能快速失败

很不幸,我测试了好几次,都不能快速失败,不知道啥情况额·可能是机子性能有点好哈哈~~~有点尴尬

2、关联模式:

当关联的资源达到阈值时,就限流自己

当与A关联的资源B达到阈值后,就限流自己A
B惹事,A挂了,下面进行设置关联模式SpringCloud Alibaba之Sentinel的流控规则简介_第7张图片

下面通过postman模拟并发密集访问testB,利用collections来模拟SpringCloud Alibaba之Sentinel的流控规则简介_第8张图片SpringCloud Alibaba之Sentinel的流控规则简介_第9张图片

SpringCloud Alibaba之Sentinel的流控规则简介_第10张图片

SpringCloud Alibaba之Sentinel的流控规则简介_第11张图片

此时,请求testA接口还能访问成功,当我们通过postman请求testB接口后,再访问testA发现已经出现快速失败了SpringCloud Alibaba之Sentinel的流控规则简介_第12张图片

当postman中的testB接口访问完成以后,再来看testA接口,发现已经恢复正常了!

测试过程:访问testB成功-->postman里新建多线程集合组-->将访问地址添加进新线程组-->Run-->大批量线程高并发访问B,导致A失效了

就相当于这种业务场景:下订单支付,支付系统已经满载了,此时就会直接让下订单服务快速失败,等支付系统恢复后,下订单服务恢复正常~

3、链路模式:

未完待续~~

 

 

三、流控效果:

流量控制官网:https://github.com/alibaba/Sentinel/wiki/%E6%B5%81%E9%87%8F%E6%8E%A7%E5%88%B6

1、直接拒绝 :直接->快速失败(默认的流控处理)

直接拒绝RuleConstant.CONTROL_BEHAVIOR_DEFAULT)方式是默认的流量控制方式,当QPS超过任意规则的阈值后,新的请求就会被立即拒绝,拒绝方式为抛出FlowException。这种方式适用于对系统处理能力确切已知的情况下,比如通过压测确定了系统的准确水位时

直接失败,抛出异常,Blocked by Sentinel (flow limiting)

源码位置:com.alibaba.csp.sentinel.slots.block.flow.controller.DefaultController

2、预热

Warm Up(RuleConstant.CONTROL_BEHAVIOR_WARM_UP)方式,即预热/冷启动方式。当系统长期处于低水位的情况下,当流量突然增加时,直接把系统拉升到高水位可能瞬间把系统压垮。通过"冷启动",让通过的流量缓慢增加,在一定时间内逐渐增加到阈值上限,给冷系统一个预热的时间,避免冷系统被压垮。详细文档可以参考 流量控制 - Warm Up 文档,具体的例子可以参见 WarmUpFlowDemo。SpringCloud Alibaba之Sentinel的流控规则简介_第13张图片

当流量突然增大的时候,我们常常会希望系统从空闲状态到繁忙状态的切换的时间长一些。即如果系统在此之前长期处于空闲的状态,我们希望处理请求的数量是缓步的增多,经过预期的时间以后,到达系统处理请求个数的最大值。Warm Up(冷启动,预热)模式就是为了实现这个目的的。这个场景主要用于启动需要额外开销的场景,例如建立数据库连接等。

公式:阈值除以coldFactor(默认值为3),经过预热时长后才会达到阈值

默认coldFactor为3,即请求QPS从threshold/3开始,经预热时长逐渐升至设定的QPS阈值。

限流-冷启动官网https://github.com/alibaba/Sentinel/wiki/%E9%99%90%E6%B5%81---%E5%86%B7%E5%90%AF%E5%8A%A8

源码位置:com.alibaba.csp.sentinel.slots.block.flow.controller.WarmUpController

下面进行预热配置演示testB

案例:阀值为10+预热时长设置5秒。
系统初始化的阀值为10 / 3约等于3,即阀值刚开始为3;然后过了5秒后阀值才慢慢升高恢复到10

SpringCloud Alibaba之Sentinel的流控规则简介_第14张图片

注意:因为我机子速度快的原因,5s预热时长我看不出效果,所以我将预热时长改为了10s,所以进行测试会出现正常结果:

当请求一次testB的时候,能正常响应,等进行快速刷新请求testB的时候,会时不时的出现 快速失败界面,然后等达到预热时长5s后,再访问就不会出现快速失败了,说明已经预热完成,能处理并发请求了

应用场景:秒杀系统在开启的瞬间,会有很多流量上来,很有可能把系统打死,预热方式就是把为了保护系统,可慢慢的把流量放进来,慢慢的把阀值增长到设置的阀值。

 

3、匀速排队

匀速排队(RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER)方式会严格控制请求通过的间隔时间,也即是让请求以均匀的速度通过,对应的是漏桶算法。详细文档可以参考 流量控制 - 匀速器模式,具体的例子可以参见 PaceFlowDemo。

该方式的作用如下图所示:SpringCloud Alibaba之Sentinel的流控规则简介_第15张图片

 

这种方式主要用于处理间隔性突发的流量,例如消息队列。想象一下这样的场景,在某一秒有大量的请求到来,而接下来的几秒则处于空闲状态,我们希望系统能够在接下来的空闲期间逐渐处理这些请求,而不是在第一秒直接拒绝多余的请求。

源码位置:com.alibaba.csp.sentinel.slots.block.flow.controller.RateLimiterController

演示:设置QPS,这里只能是QPS才有匀速排队效果,设置阈值为1QPS,超时时间为20s

SpringCloud Alibaba之Sentinel的流控规则简介_第16张图片

我们再通过postman模拟请求,通过后台查看是否有排队效果SpringCloud Alibaba之Sentinel的流控规则简介_第17张图片

启动访问,后台打印的日志却是一秒一次,说明我们的匀速排队流控设置成功了,不管前台访问多么高,到了我这里流控就是排队,1QPS来进行响应,表示设置 匀速排队成功

你可能感兴趣的:(SpringCloud,SpringCloud,Alibaba,Springboot)