服务端限流方案

服务端限流一般有四中方案

两窗两桶

1、固定窗口法

• 固定时间范围为一个窗口，固定窗口内设置流量阈值
• 每次请求之后计数器+1
• 在窗口时间内超过阈值的请求选择丢弃
• 时间过去之后进入下一个窗口，重新计数。

缺点：

• 特殊场景：假设时间窗口为10秒，请求阈值为100，在第一个时间窗口的后一半时间来了100个请求，在下一时间窗口的前半段来了100个请求，这样在10秒之内就产生了200个请求，而这种场景限流措施并没有起到效果。
• 一旦流量进入速度有所波动，要么计数器会被提前计满，导致这个周期内剩下时间段的请求被限制。要么就是计数器计不满，导致资源无法充分利用。

2、滑动窗口法

以当前时间为截止时间，往前取一定的时间作为时间窗口，比如：往前取 60s 的时间
当有新的请求进入时，删除时间窗口之外的请求，对时间窗口之内的请求进行计数统计，若未超过限制，则进行放行操作；若超过限制，则拒绝本次服务

缺点：

时间比较上精度越高，越消耗空间资源

3、漏桶算法

• 一个桶作为请求的容器，请求来了之后放入桶中
• 桶下面有一个洞，以匀速流出（处理请求）
• 桶放满的时候丢弃请求

缺点：

当短时间内有大量的突发请求时，即便此时服务器没有任何负载，每个请求也都得在队列中等待一段时间才能被响应。

4、令牌桶算法

令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌，而如果请求需要被处理，则需要先从桶里获取一个令牌，当桶里没有令牌可取时，则拒绝服务。从原理上看，令牌桶算法和漏桶算法是相反的，一个“进水”，一个是“漏水”。

令牌桶算法是一个存放固定容量令牌的桶，按照固定速率往桶里添加令牌。
令牌桶算法的描述如下：
假设限制2r/s，则按照500毫秒的固定速率往桶中添加令牌；
桶中最多存放b个令牌，当桶满时，新添加的令牌被丢弃或拒绝；
当一个n个字节大小的数据包到达，将从桶中删除n个令牌，接着数据包被发送到网络上；
如果桶中的令牌不足n个，则不会删除令牌，且该数据包将被限流（要么丢弃，要么缓冲区等待）。

总结：令牌桶算法是比较科学，机制更全面的一个限流算法，放入令牌的速度是一定的，如果短时间有大量请求，令牌桶中的令牌可以支持一下全部用完，这样就解决了漏桶算法的缺点。