限流和算法(浅)

1.限流方式:Hystrix适用线程池隔离,超过线程池的负载,走熔断的逻辑。
tomcat容器也是通过限制它的线程数来控制并发的;
也有通过时间窗口的平均速度来控制流量。
常见的限流纬度有比如通过Ip来限流、通过uri来限流、通过用户访问频次来限流。
2.一般限流都是在网关这一层做,比如Nginx、zuul、Spring Cloud Gateway
3.限流的算法:
1.计数器算法:比如一秒内限流qps为100,过一秒从0开始记数,弊端是突刺现象:几毫秒就已经到100,剩下毫秒浪费了。
2.漏桶算法:可以准备一个队列,用来保存请求,另外通过一个线程池(ScheduledExecutorService)来定期从队列中获取请求并执行,可以一次性获取多个并发执行。
出去一个,放一个
这种算法,在使用过后也存在弊端:无法应对短时间的突发流量。
3.令牌桶算法: 桶算法能够限制请求调用的速率,而令牌桶算法能够在限制调用的平均速率的同时还允许一定程度的突发调用 。
令牌工厂—均匀的产生令牌----放入令牌桶中,每一个请求都要从桶里拿一个令牌再去请求,如果拿不到,就等待。

你可能感兴趣的:(限流和算法(浅))