负载均衡的基本概念
负载均衡，它的职责是将网络请求，或者其他形式的负载“均摊”到不同的机器上。避免集群中部分服务器压力过大，而另一些服务器比较空闲的情况。通过负载均衡，可以让每台服务器获取到适合自己处理能力的负载。在为高负载服务器分流的同时，还可以避免资源浪费.
dubbo的负载均衡算法
| 算法 | 简述 | 算法思想 |
|---|---|---|
| RandomLoadBalance | 随机权重 | 假设我们有一组服务器 servers = [A, B, C]，他们对应的权重为 weights = [5, 3, 2]，权重总和为10。现在把这些权重值平铺在一维坐标值上，[0, 5) 区间属于服务器 A，[5, 8) 区间属于服务器 B，[8, 10) 区间属于服务器 C。接下来通过随机数生成器生成一个范围在 [0, 10) 之间的随机数，然后计算这个随机数会落到哪个区间上。比如数字3会落到服务器 A 对应的区间上，此时返回服务器 A 即可。权重越大的机器，在坐标轴上对应的区间范围就越大，因此随机数生成器生成的数字就会有更大的概率落到此区间内。 |
| RoundRobinLoadBalance | 随机轮询 | 轮询是指将请求轮流分配给每台服务器。举个例子，我们有三台服务器 A、B、C。我们将第一个请求分配给服务器 A，第二个请求分配给服务器 B，第三个请求分配给服务器 C，第四个请求再次分配给服务器 A。这个过程就叫做轮询。轮询是一种无状态负载均衡算法，实现简单，适用于每台服务器性能相近的场景下。但现实情况下，我们并不能保证每台服务器性能均相近。如果我们将等量的请求分配给性能较差的服务器，这显然是不合理的。因此，这个时候我们需要对轮询过程进行加权，以调控每台服务器的负载。经过加权后，每台服务器能够得到的请求数比例，接近或等于他们的权重比。比如服务器 A、B、C 权重比为 5:2:1。那么在8次请求中，服务器 A 将收到其中的5次请求，服务器 B 会收到其中的2次请求，服务器 C 则收到其中的1次请求。 |
| LeastActiveLoadBalance | 最少活跃 | 每个服务提供者对应一个活跃数 active。初始情况下，所有服务提供者活跃数均为0。每收到一个请求，活跃数加1，完成请求后则将活跃数减1。在服务运行一段时间后，性能好的服务提供者处理请求的速度更快，因此活跃数下降的也越快，此时这样的服务提供者能够优先获取到新的服务请求、这就是最小活跃数负载均衡算法。除了最小活跃数,dubbo还引入了权重,即LeastActiveLoadBalance 实际上是基于加权最小活跃数算法实现的,比如在一个服务提供者集群中，有两个性能优异的服务提供者。某一时刻它们的活跃数相同，此时 Dubbo 会根据它们的权重去分配请求，权重越大，获取到新请求的概率就越大。如果两个服务提供者权重相同，此时随机选择一个即可。也就是最小活跃数相等,则根据权重进行比较,如果权重还相等,再随机选一个 |
| ConsistentHashLoadBalance | 一致性hash算法 | 具体可见对分布式一致性hash算法的文章分析 |
默认的是随机权重
此外,dubbo的负载均衡算法还有个公共的逻辑,就是服务预热,简要概述就是用于保证当服务运行时长小于服务预热时间时，对服务进行降权，避免让服务在启动之初就处于高负载状态。服务预热是一个优化手段，与此类似的还有 JVM 预热。主要目的是让服务启动后“低功率”运行一段时间，使其效率慢慢提升至最佳状态。
即如果服务提供者的启动时间小于预热时间,则进行降权,即权重不会是我们正在配置的权重
源代码如下
AbstractLoadBalance 中
protected int getWeight(Invoker invoker, Invocation invocation) {
// 从 url 中获取权重 weight 配置值
int weight = invoker.getUrl().getMethodParameter(invocation.getMethodName(), Constants.WEIGHT_KEY, Constants.DEFAULT_WEIGHT);
if (weight > 0) {
// 获取服务提供者启动时间戳
long timestamp = invoker.getUrl().getParameter(Constants.REMOTE_TIMESTAMP_KEY, 0L);
if (timestamp > 0L) {
// 计算服务提供者运行时长
int uptime = (int) (System.currentTimeMillis() - timestamp);
// 获取服务预热时间，默认为10分钟
int warmup = invoker.getUrl().getParameter(Constants.WARMUP_KEY, Constants.DEFAULT_WARMUP);
// 如果服务运行时间小于预热时间，则重新计算服务权重，即降权
if (uptime > 0 && uptime < warmup) {
// 重新计算服务权重
weight = calculateWarmupWeight(uptime, warmup, weight);
}
}
}
return weight;
}
static int calculateWarmupWeight(int uptime, int warmup, int weight) {
// 计算权重，下面代码逻辑上形似于 (uptime / warmup) * weight。
// 随着服务运行时间 uptime 增大，权重计算值 ww 会慢慢接近配置值 weight
int ww = (int) ((float) uptime / ((float) warmup / (float) weight));
return ww < 1 ? 1 : (ww > weight ? weight : ww);
}
RandomLoadBalance随机权重
简要概述
首先计算总权重以及判断权重是否都相等,权重都相等的话直接随机就好了,不相等的话再进行判断是落在哪个区间.具体算法为,假设某个值为offset,offset-总权重<0表面落在相应的区间.比如有 servers = [A, B, C]，weights = [5, 3, 2]，offset = 7。第一次循环，offset - 5 = 2 > 0，即 offset > 5，表明其不会落在服务器 A 对应的区间上。第二次循环，offset - 3 = -1 < 0，即 5 < offset < 8,表明其会落在服务器 B 对应的区间上.自己画下图就好了
public class RandomLoadBalance extends AbstractLoadBalance {
public static final String NAME = "random";
private final Random random = new Random();
@Override
protected Invoker doSelect(List> invokers, URL url, Invocation invocation) {
int length = invokers.size();
int totalWeight = 0;
boolean sameWeight = true;
// 下面这个循环有两个作用，第一是计算总权重 totalWeight，
// 第二是检测每个服务提供者的权重是否相同
for (int i = 0; i < length; i++) {
int weight = getWeight(invokers.get(i), invocation);
// 累加权重
totalWeight += weight;
// 检测当前服务提供者的权重与上一个服务提供者的权重是否相同，
// 不相同的话，则将 sameWeight 置为 false。
if (sameWeight && i > 0
&& weight != getWeight(invokers.get(i - 1), invocation)) {
sameWeight = false;
}
}
// 下面的 if 分支主要用于获取随机数，并计算随机数落在哪个区间上
if (totalWeight > 0 && !sameWeight) {
// 随机获取一个 [0, totalWeight) 区间内的数字
int offset = random.nextInt(totalWeight);
// 循环让 offset 数减去服务提供者权重值，当 offset 小于0时，返回相应的 Invoker。
// 举例说明一下，我们有 servers = [A, B, C]，weights = [5, 3, 2]，offset = 7。
// 第一次循环，offset - 5 = 2 > 0，即 offset > 5，
// 表明其不会落在服务器 A 对应的区间上。
// 第二次循环，offset - 3 = -1 < 0，即 5 < offset < 8，
// 表明其会落在服务器 B 对应的区间上
for (int i = 0; i < length; i++) {
// 让随机值 offset 减去权重值
offset -= getWeight(invokers.get(i), invocation);
if (offset < 0) {
// 返回相应的 Invoker
return invokers.get(i);
}
}
}
// 如果所有服务提供者权重值相同，此时直接随机返回一个即可
return invokers.get(random.nextInt(length));
}
}
LeastActiveLoadBalance最小活跃数
简要概述
需要几个变量,
- leastActive用来记录最小活跃数,初始化为-1
- int[] leastIndexs = new int[length];一个数组,用于记录最小活跃数的Invoker
- leastCount 最小活跃数的数量,用于初始化数组
- totalWeight总权重,在最小活跃数相等,需要根据权重来判断落在哪个区间的时候需要用到这个变量
- sameWeight 用于记录是否具有相同的权重,最小活跃数相同,权重相同,则直接随机
- firstWeight 用于判断是否需要更新sameWeight 变量
有以下几个步骤
1.判断当前最小活跃数是否真的是最小的,不是的话则更新
2.假如不是最小的活跃数,则还需要判断活跃数是否相等,相等的话就需要累加多个Invoker的权重,便于后面判断落在哪个权重区间
3.根据leastCount进行判断,假如只有一个则直接返回即可,有多个的话就说明需要根据权重来进行判断了
4.根据权重判断的思想与之前说的随机权重差不多,也是一个offset-总的权重<0则说明落在相应的区间
5.假如最小活跃数相等,权重也相等,则从leastIndexs 数组中直接随机返回一个
即
1.遍历 invokers 列表，寻找活跃数最小的 Invoker
如果有多个 Invoker 具有相同的最小活跃数，此时记录下这些 Invoker 在 invokers 集合中的下标，并累加它们的权重，比较它们的权重值是否相等
2.如果只有一个 Invoker 具有最小的活跃数，此时直接返回该 Invoker 即可
3.如果有多个 Invoker 具有最小活跃数，且它们的权重不相等，此时处理方式和 RandomLoadBalance 一致
4.如果有多个 Invoker 具有最小活跃数，但它们的权重相等，此时随机返回一个即可
源码如下
public class LeastActiveLoadBalance extends AbstractLoadBalance {
public static final String NAME = "leastactive";
private final Random random = new Random();
@Override
protected Invoker doSelect(List> invokers, URL url, Invocation invocation) {
int length = invokers.size();
// 最小的活跃数
int leastActive = -1;
// 具有相同“最小活跃数”的服务者提供者（以下用 Invoker 代称）数量
int leastCount = 0;
// leastIndexs 用于记录具有相同“最小活跃数”的 Invoker 在 invokers 列表中的下标信息
int[] leastIndexs = new int[length];
int totalWeight = 0;
// 第一个最小活跃数的 Invoker 权重值，用于与其他具有相同最小活跃数的 Invoker 的权重进行对比，
// 以检测是否“所有具有相同最小活跃数的 Invoker 的权重”均相等
int firstWeight = 0;
boolean sameWeight = true;
// 遍历 invokers 列表
for (int i = 0; i < length; i++) {
Invoker invoker = invokers.get(i);
// 获取 Invoker 对应的活跃数
int active = RpcStatus.getStatus(invoker.getUrl(), invocation.getMethodName()).getActive();
// 获取权重
int weight = invoker.getUrl().getMethodParameter(invocation.getMethodName(), Constants.WEIGHT_KEY, Constants.DEFAULT_WEIGHT);
// 发现更小的活跃数，重新开始
if (leastActive == -1 || active < leastActive) {
// 使用当前活跃数 active 更新最小活跃数 leastActive
leastActive = active;
// 更新 leastCount 为 1
leastCount = 1;
// 记录当前下标值到 leastIndexs 中
leastIndexs[0] = i;
totalWeight = weight; //初始化总权重
firstWeight = weight; //初始化第一次的权重
sameWeight = true;
// 当前 Invoker 的活跃数 active 与最小活跃数 leastActive 相同
} else if (active == leastActive) {
// 在 leastIndexs 中记录下当前 Invoker 在 invokers 集合中的下标
leastIndexs[leastCount++] = i;
// 累加权重
totalWeight += weight;
// 检测当前 Invoker 的权重与 firstWeight 是否相等，
// 不相等则将 sameWeight 置为 false
if (sameWeight && i > 0
&& weight != firstWeight) {
sameWeight = false;
}
}
}
// 当只有一个 Invoker 具有最小活跃数，此时直接返回该 Invoker 即可
if (leastCount == 1) {
return invokers.get(leastIndexs[0]);
}
// 有多个 Invoker 具有相同的最小活跃数，但它们之间的权重不同
if (!sameWeight && totalWeight > 0) {
// 随机生成一个 [0, totalWeight) 之间的数字
int offsetWeight = random.nextInt(totalWeight);
// 循环让随机数减去具有最小活跃数的 Invoker 的权重值，
// 当 offset 小于等于0时，返回相应的 Invoker
for (int i = 0; i < leastCount; i++) {
int leastIndex = leastIndexs[i];
// 获取权重值，并让随机数减去权重值 - ⭐️
offsetWeight -= getWeight(invokers.get(leastIndex), invocation);
if (offsetWeight <= 0)
return invokers.get(leastIndex);
}
}
// 如果权重相同或权重为0时，随机返回一个 Invoker
return invokers.get(leastIndexs[random.nextInt(leastCount)]);
}
}
当然这存在一个问题
即我们提到过,会存在启动时候的预热降权(即调用降权的方法后返回的权重才是降权后的权重),但这段代码中直接通过
int weight = invoker.getUrl().getMethodParameter(invocation.getMethodName(), Constants.WEIGHT_KEY, Constants.DEFAULT_WEIGHT);
获取到的就是真实的权重
第一行代码获取到的权重值最终会被累加到权重总和 totalWeight 中,而offsetWeight 是一个在 [0, totalWeight) 范围内的随机数，而它所减去的是经过降权的权重(即减小了)。很有可能在经过 leastCount 次运算后，offsetWeight 仍然是大于0的，导致无法选中 Invoker。
解决方案
直接调用降权方法来返回权重,而不是直接通过
int weight = invoker.getUrl().getMethodParameter(invocation.getMethodName(), Constants.WEIGHT_KEY, Constants.DEFAULT_WEIGHT);
获取
RoundRobinLoadBalance随机权重轮询
最简单的思路就是按权重值假如到一个数组中,然后随机一个位置,进行取出来,但也要保证,假如的时候足够均匀。
另外一种思路就是平滑加权轮询
算法步骤如下
(1)每个节点，用它们的当前值加上它们自己的权重。
(2)选择当前值最大的节点为选中节点，并把它的当前值减去所有节点的权重总和。
假设(a,3),(b,1)即表示a的权重是3,b的权重是1
| 选择轮次 | 当前权重 | 选中节点 | 选中后的权重 |
|---|---|---|---|
| 1 | (3,1) | a | (-1,1) |
| 2 | ((-1+3=2),(1+1=2)) | a | (2-4=-2,2) |
| 3 | (-2+3=1,2+1=3) | b | (1,3-4=-1) |
| 4 | (1+3=4,-1+1=0) | a | (4-4=0,0) |
| .. | .. | .. | |
| 5 | (0+3=3,0+1=1) | a | (-1,1) |
即被选中的代价是需要将自己的权重减去总的权重,没有选中的就保持不变,然后每一轮都需要将自己的权重加上最初的权重.
为什么说它比较随机呢?
加上M=K*N M>N的
此处假设M代表a的权重,N代表b的权重
每次a被选中后都需要减去k(M+N)，增加的值是M(M+N),循环结束后需要为0.则可得K=M,此时K=3,我们看b出现的轮次也正好是第3轮,所以我们说它是比较平滑的,而不会出现(a,a,a,b)这种极端的情况
即k为奇数的时候,b出现的轮次为((k+1)/2)+1
k为偶数的时候,b出现的轮次为(k/2)+1
即保证较小的那个会出现在中间而不是两边，这样才叫均匀
可以自己多画画图
那么我们再来看dubbo的实现
public class RoundRobinLoadBalance extends AbstractLoadBalance {
public static final String NAME = "roundrobin";
private final ConcurrentMap sequences =
new ConcurrentHashMap();
@Override
protected Invoker doSelect(List> invokers, URL url, Invocation invocation) {
// key = 全限定类名 + "." + 方法名，比如 com.xxx.DemoService.sayHello
String key = invokers.get(0).getUrl().getServiceKey() + "." + invocation.getMethodName();
int length = invokers.size();
// 最大权重
int maxWeight = 0;
// 最小权重
int minWeight = Integer.MAX_VALUE;
final LinkedHashMap, IntegerWrapper> invokerToWeightMap = new LinkedHashMap, IntegerWrapper>();
// 权重总和
int weightSum = 0;
// 下面这个循环主要用于查找最大和最小权重，计算权重总和等
for (int i = 0; i < length; i++) {
int weight = getWeight(invokers.get(i), invocation);
// 获取最大和最小权重
maxWeight = Math.max(maxWeight, weight);
minWeight = Math.min(minWeight, weight);
if (weight > 0) {
// 将 weight 封装到 IntegerWrapper 中
invokerToWeightMap.put(invokers.get(i), new IntegerWrapper(weight));
// 累加权重
weightSum += weight;
}
}
// 查找 key 对应的对应 AtomicPositiveInteger 实例，为空则创建。
// AtomicPositiveInteger 用于记录服务的调用编号
AtomicPositiveInteger sequence = sequences.get(key);
if (sequence == null) {
sequences.putIfAbsent(key, new AtomicPositiveInteger());
sequence = sequences.get(key);
}
// 获取当前的调用编号
int currentSequence = sequence.getAndIncrement();
// 如果最小权重小于最大权重，表明服务提供者之间的权重是不相等的
if (maxWeight > 0 && minWeight < maxWeight) {
// 使用调用编号对权重总和进行取余操作
int mod = currentSequence % weightSum;
// 进行 maxWeight 次遍历
for (int i = 0; i < maxWeight; i++) {
// 遍历 invokerToWeightMap
for (Map.Entry, IntegerWrapper> each : invokerToWeightMap.entrySet()) {
// 获取 Invoker
final Invoker k = each.getKey();
// 获取权重包装类 IntegerWrapper
final IntegerWrapper v = each.getValue();
// 如果 mod = 0，且权重大于0，此时返回相应的 Invoker
if (mod == 0 && v.getValue() > 0) {
return k;
}
// mod != 0，且权重大于0，此时对权重和 mod 分别进行自减操作
if (v.getValue() > 0) {
v.decrement();
mod--;
}
}
}
}
// 服务提供者之间的权重相等，此时通过轮询选择 Invoker
return invokers.get(currentSequence % length);
}
// IntegerWrapper 是一个 int 包装类，主要包含了一个自减方法。
private static final class IntegerWrapper {
private int value;
public void decrement() {
this.value--;
}
// 省略部分代码
}
}
其实就是根据权重放入到map中,然后会根据权重进行几次for循环调用,比如3,2,1则权重为3的就可以掉3次,权重为2的就可以掉2次,权重为1的就可以掉1次.只是这里写的不是那么容易看懂,而且还是有问题的
有什么问题呢?
我们看到在mod == 0 && v.getValue() > 0 条件成立的情况下才会被返回相应的 Invoker。
而每次mod又跟最大权重 maxWeight正相关,不满足的时候只是减一,所以这里当权重设置的很大的时候,其实效率是非常低的.
还是采用平滑加权轮询好一点,而且更容易看懂