限流笔记（一）

最近在学习流量控制的RateLImiter，就想着也实现一个试试，大致思路是，请求来了判断一下是否需要限流，不需要就正常走，记录一下时间，需要的话，就去获取令牌，获取到了就执行，没有就等待一下，如果等待超时就返回，等待中获取到了令牌就执行，量很多，令牌桶不够用了，就限制一下不是很着急的那些个请求，保证着急的请求先执行。

流程如下：

流程

根据流程将模块划分为：

模块

阀值（开关）：主要负责正在运行线程的加减、平均时间计算和限流开关；

方法转化：主要负责接口或者url转化为着急非着急的请求，以便我们进行不同请求的紧急程度的控制；

令牌桶：主要是生成令牌的工具类；

配置：从配置文件limiter-config.properties读取最大运行线程，最大平均执行时间等一系列参数。

定义了一个LimiterUtils，调用call方法来进行流量控制处理，参数为2个接口和一个VO对象

public staticT call(LimiterCall rc,DBCall db,LimiterVO lVo)

LimiterCall：需要重写success和fail方法，作为获取到锁和没有获取到锁的处理；

DBCall：是根据LimiterVO读取数据库等持久化数据，以作为是否是着急接口或者url的判断

LimiterVO：主要是记录请求参数：

private String interfaceName;

private String methodName;

private String url;

private LimiterType  limiterType;

有2个构造函数，来进行url或者接口的控制。

主要逻辑：

1.判断开关：

打开：当系统中正在执行线程达到最大线程数和线程平均处理时间大于了最大平均时间时，开关打开（当然也可以加上QPS的判断，当前QPS已经算出来，只是还没有用进去），亦可以手动打开。

关闭：当系统正在执行线程数小于最大线程数，平均时间也低于最大平均时间，可认为峰值已经过去，可以将开关关闭。也可以手动关闭，不过尽量不要手动去关闭。

2.着急令牌桶和非着急令牌桶

如果在限制时间内，着急令牌桶都是可以获取到令牌的，所有请求都会走这个桶，如果在限定时间内比如2s着急令牌桶已经不能够获取到令牌，说明限制请求已经很大了，我们需要对非着急的请求进行限制，打开非着急令牌桶，以一个比较小的速率来放令牌，所有的非着急请求都走非着急令牌桶。

3.实时计算平均时间

当前的处理逻辑是，当执行了正常逻辑，我会将当前线程执行时间写进一个大小为100的static 的Collections.synchronizedList(new LinkedList())，以Ordering.natural().sortedCopy(xx)进行排序并取去掉前后10%的中间部分来计算线程平均时间，根据Little定理算出QPS。

4.大量请求同时到达服务器，导致CPU处理繁忙

这一点也是大家容易忽视的，就比如同一个服务器，一下子又10000个请求过来了，是开启了限流，但是这个限流等待时间，这个多线程阻塞，系统完全扛不住，还是没有达到限流的目的，我在请求之前，进行逻辑处理，当正在处理线程大于一个配置值时，多余请求全部拒绝，或者服务器JVM内存使用率超过了95%时，请求也拒绝，这个是可以没有的，如果以简单为主的话，内存的判断是不需要的，直接判断当前正在执行线程就行，多了就们不要，当然大家也可以单独去计算CPU使用率，来作为判断条件。JVM内存的话，我使用的是：

long jvmfree=Runtime.getRuntime().freeMemory();

long jvmTotal =Runtime.getRuntime().totalMemory();

long jvmMax =Runtime.getRuntime().maxMemory();

logger.info("java 虚拟机空闲内存"+jvmfree / 1024 / 1024);

logger.info("java 虚拟机获得总内存"+jvmTotal / 1024 / 1024);

logger.info("java 虚拟机最大内存"+jvmMax / 1024 / 1024);

double jvmUseRate = (jvmTotal-jvmfree)*1.0/jvmMax;

测试了一下，流量起来之后是会自动打开限流的，流量小了，自动回关闭，

因为我的工作性质，所以我的配置文件的参数，或者说默认参数：

sys_max_running_thread = 500//开关判断的最大线程数，

sys_max_qps = 250//系统最大qps

request_timeout = 2500//请求令牌最多等待时间，是令牌控制参数，不是等待线程最大等待时间

non_worry_token_speed = 30//非着急令牌速率

max_await_thread_length =500//最大等待线程数

max_avg_handle_date = 3000//开关判断的最大平均处理时间

代码：由于是在自己的工程里面写的，所以就带有的工程的包路径，勉强看吧。

https://github.com/learnPeopleHard/network-speed-limit