在高并发的访问下,单一服务器性能不足以满足正常需求,我们往往会引入分布式集群服务器来提高服务质量,提高网站整体性能。那么,这时一个请求到这个服务,就需要确定访问哪一个服务器。在服务器集群中,需要有一台服务器充当调度者的角色,用户的所有请求都会首先由它接收,调度者再根据每台服务器的负载情况将请求分配给某一台后端服务器去处理。
Dubbo框架内部支持负载均衡算法,能够尽可能的让请求在相对空闲的服务器上运行。在不同的项目中,可能选用不同的负载均衡策略,以达到最好效果。
LoadBalancerClient应用
Dubbo内置4种负载均衡算法:
1.random loadbalance:随机分配策略(默认)
2.round Robin Loadbalance:权重平均分配
3.leastactive Loadbalance:活跃度自动感知分配
4.consistanthash Loadbalance:一致性hash算法分配
实际运行过程中,每个服务器性能不同,在负载均衡时,都会有性能权重,这些策略算法都考虑权重问题。
随机生成随机数。在哪个范围内让哪个服务器运行
优点:算法简单,效率高,长时间运行下,任务分配比例准确
缺点:偶然性高,如果连续的几个随机请求发送到性能弱的服务器,会导致异常甚至宕机
如果几个服务器权重一致,那么就是依次运行,但是服务器的性能权重一致的可能性很小。所以我们需要权重平滑分配,一个优秀的权重分配算法,应该是让每个服务器都有机会运行的
如果一个集群服务器性能比为5:3:1
1>A 2>A 3>A 4>A 5>A 6>B 7>B 8>B 9>C
上面的安排中,连续请求一个服务器肯定是不好的,我们希望所有的服务器都能够穿插在一起运行
Dubbo2.7之后更新了这个算法使用"平滑加权算法"优化权重平均分配策略
优点:能够尽可能的在权重要求的情况下,实现请求的穿插运行(交替运行),不会发生随机策略中的偶发情况。
缺点:服务器较多时,可能需要减权和复权的计算,需要消耗系统资源
Nginx适合于服务器端实现负载均衡比如 Tomcat ,客户端发起的所有请求先统一交给 nginx处理,它内置了负载均衡的算法,Nginx还保持了服务清单。由Nginx实现请求转发
Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,是一个基于HTTP和TCP的客户端负载均衡工具。Ribbon适合与在微服务中RPC远程调用实现本地服务负载均衡,比如 Dubbo、SpringCloud 中都是采用本地负载均衡。Ribbon是从 eureka 注册中心服务器端上获取服务注册信息列表,缓存到本地,然后在本地实现轮询负载均衡策略,Ribbon不负责保持服务清单 ,Spring Cloud的Netflix中提供了两个组件实现软负载均衡调用:ribbon和feign。其中 Feign中集成了Ribbon,会自动使用负载均衡。