Java应用限流

在开发高并发系统时,有三把利器用来保护系统:缓存、降级和限流:
缓存:缓存的目的是提升系统访问速度和增大系统处理容量
降级:降级是当服务出现问题或者影响到核心流程时,需要暂时屏蔽掉,待高峰或者问题解决后再打开
限流:限流的目的是通过对并发访问/请求进行限速,或者对一个时间窗口内的请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理

常见算法:
1、计时器限流
2、滑动窗口
3、漏桶算法
4、令牌桶算法

计时器限流

计时器是限流算法中比较简单的一种算法,比如:限制一个接口1分钟内不能超过100次请求,可以在一开始设置一个计数器,每当接收到请求时,将计数器加1,如果计数器的值大于100并且当前请求与第一个请求的执行时间间隔还在1分钟内的,那就说明请求过多;如果当前请求与第一次请求的时间间隔超过1分钟,并且请求次数没有超限的,那么重置计数器

import org.springframework.data.redis.core.RedisTemplate;
/**
 * 计数器限流
 * 限制1分钟内请求100次
 * 弊端:
 * 1、当前窗口100个请求全部集中到结束点,下个窗口100个请求全部集中到起始点,临界点就会出现请求暴增的情况,可能瞬间压垮应用
 * 2、只适用于单机应用,分布式环境中无法满足
 *
 * @author lile
 * @date 2019/7/1618:59
 */
public class CounterLimit {

    //时间窗口内的最大请求数
    public final int reqCount = 100;

    //时间窗口内的当前请求数
    private int currentReqCount;

    //时间窗口的长度  单位:ms
    public final int interval = 60 * 1000;

    //当前时间
    public Long currentTimestamp = System.currentTimeMillis();

    public RedisTemplate redisTemplate;

    public final String key = "minute_test";

    /**
     * 计数器限流
     *
     * @return
     */
    public boolean grant() {
        Long nowTimestamp = System.currentTimeMillis();
        if (nowTimestamp < currentTimestamp + interval) {
            //在当前时间窗口内
            currentReqCount++;
            //判断当前时间窗口的请求数是否小于最大的请求限制数
            return currentReqCount < reqCount;
        }
        //不在当前窗口内时,重置下个窗口的首次请求时间及窗口内请求数
        currentReqCount = 1;
        currentTimestamp = nowTimestamp;
        return true;
    }

    /**
     * 滑动窗口的限流
     * 保证时间窗口中的请求数不超过最大限制数即可,能平稳的控制请求的速率,请求过快会被拒绝
     * 窗口时间范围定为1分钟,每次接收到请求后重新划分时间窗口,当前时间往前的1分钟范围为新的时间窗口
     *
     * @return
     */
    public boolean DuoJiQi() {
        Long nowTimestamp = System.currentTimeMillis();
        if (redisTemplate.opsForZSet().size(key) > 0) {
            //移除不在当前时间窗口的数据
            redisTemplate.opsForZSet().removeRangeByScore(key, 0, nowTimestamp - interval);
        } 
        redisTemplate.opsForZSet().add(key, "当前请求的唯一ID", nowTimestamp);
        if (redisTemplate.opsForZSet().size(key) > reqCount) {
            //请求超限,禁止提交请求
            return false;
        }
        return true;
    }
}

滑动窗口

你可能感兴趣的:(Java应用限流)