令牌桶

限流和降级

限流的目的是为了保证核心服务的稳定性，限流模式常用于下游服务容量有限，但又怕出现突发流量猛增（如恶意爬虫，节假日大促等）而导致下游服务因压力过大而拒绝服务的场景。常见的限流模式有控制并发和控制速率，一个是限制并发的数量，一个是限制并发访问的速率。

限流的方法

关于降级限流的方法令牌桶，漏桶，计数器等，在当前我们需要了解的基于令牌桶的# 限流算法
  限流一般分为分布式限流和单机限流，如果实现分布式限流的话就要一个公共的后端存储服务比如redis，在nginx节点上利用lua读取redis配置信息

关于降级

服务压力剧增的时候根据当前的业务情况及流量对一些服务和页面有策略的降级，以此环节服务器的压力，以保证核心任务的进行。 同时保证部分甚至大部分任务客户能得到正确的相应。也就是当前的请求处理不了了或者出错了，给一个默认的返回。

令牌桶说明

image.png

• 令牌桶算法是一个存放固定容量令牌的桶，按照固定速率往桶里添加令牌.
  假设限制r/s，表示每秒会有r个令牌放入桶中，或者说每过1/r秒桶中增加一个令牌
• 桶中最多存放b个令牌，当桶满时，新添加的令牌被丢弃或拒绝
• 当一个n个字节大小的数据包到达，将从桶中删除n个令牌，接着数据包被发送到网络上
• 如果桶中的令牌不足n个，则不会删除令牌，且该数据包将被限流(要么丢弃，要么在缓冲区等待)

对于令牌桶中令牌的产生一般有两种做法：

• 1、开启一个定时任务，由定时任务持续生成令牌。这样的问题在于会极大的消耗系统资源，如，某接口需要分别对每个用户做访问频率限制，假设系统中
  存在6W用户，则至多需要开启6W个定时任务来维持每个桶中的令牌数，这样的开销是巨大的。
• 2、在每次获取令牌之前计算，其实现思路为，若当前时间晚于nextFreeTicketMicros，则计算该段时间内可以生成多少令牌，将生成的令牌加入令牌桶中并
  更新数据。这样一来，只需要在获取令牌时计算一次即可。