负载均衡根据所在的位置不同,分为:服务端负载均衡
、客户端负载均衡
。
服务端负载均衡
:客户端发起的请求首先被转到负载设备上面,应用服务器对客户端不可见。
客户端负载均衡
:在客户端维护着服务列表(IP 和端口),按照一定的算法分发请求到不同的服务器节点。通常在应用内部服务与服务之间的调用。
Ribbon
是 Netflix 推出的开源框架,其主要功能是实现客户端的负载均衡算法。
<dependency>
<groupId>com.netflix.ribbongroupId>
<artifactId>ribbonartifactId>
<version>2.3.0version>
dependency>
<dependency>
<groupId>com.netflix.ribbongroupId>
<artifactId>ribbon-httpclientartifactId>
<version>2.3.0version>
dependency>
<dependency>
<groupId>com.netflix.ribbongroupId>
<artifactId>ribbon-loadbalancerartifactId>
<version>2.3.0version>
dependency>
Spring Cloud Ribbon
是基于 Netflix 公司的 Ribbon
进一步封装和扩展。
<dependency>
<groupId>org.springframework.cloudgroupId>
<artifactId>spring-cloud-starter-netflix-ribbonartifactId>
<version>2.2.5.RELEASEversion>
dependency>
Spring Cloud Loadbalancer
是 Spring Cloud 官方自己实现的客户端负载均衡器,是 Netflix Ribbon 的替换方案。
<dependency>
<groupId>org.springframework.cloudgroupId>
<artifactId>spring-cloud-loadbalancerartifactId>
<version>2.2.5.RELEASEversion>
dependency>
项目名称:springboot-ribbon
SpringBoot版本:2.4.5
SpringCloud版本:2020.0.0
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0modelVersion>
<groupId>com.examplegroupId>
<artifactId>springboot-ribbonartifactId>
<version>0.0.1-SNAPSHOTversion>
<name>springboot-ribbonname>
<description>Demo project for Spring Bootdescription>
<properties>
<java.version>1.8java.version>
<maven.compiler.source>1.8maven.compiler.source>
<maven.compiler.target>1.8maven.compiler.target>
<lombok.version>1.18.18lombok.version>
properties>
<dependencies>
<dependency>
<groupId>org.springframework.bootgroupId>
<artifactId>spring-boot-starter-webartifactId>
dependency>
<dependency>
<groupId>org.projectlombokgroupId>
<artifactId>lombokartifactId>
<version>${lombok.version}version>
dependency>
<dependency>
<groupId>org.springframework.bootgroupId>
<artifactId>spring-boot-starter-testartifactId>
<scope>testscope>
dependency>
<dependency>
<groupId>org.springframework.cloudgroupId>
<artifactId>spring-cloud-starter-netflix-eureka-clientartifactId>
dependency>
dependencies>
<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.bootgroupId>
<artifactId>spring-boot-dependenciesartifactId>
<version>2.4.5version>
<type>pomtype>
<scope>importscope>
dependency>
<dependency>
<groupId>org.springframework.cloudgroupId>
<artifactId>spring-cloud-dependenciesartifactId>
<version>2020.0.0version>
<type>pomtype>
<scope>importscope>
dependency>
dependencies>
dependencyManagement>
<build>
<plugins>
<plugin>
<groupId>org.springframework.bootgroupId>
<artifactId>spring-boot-maven-pluginartifactId>
<configuration>
<excludes>
<exclude>
<groupId>org.projectlombokgroupId>
<artifactId>lombokartifactId>
exclude>
excludes>
configuration>
plugin>
plugins>
build>
project>
server:
port: 8081
spring:
application:
name: springboot-ribbon
#eureka client
eureka:
client:
service-url:
defaultZone: http://demo:Demo2023@localhost:1001/eureka/
instance:
hostname: localhost
prefer-ip-address: true # 是否使用 ip 地址注册
instance-id: ${spring.cloud.client.ip-address}:${server.port} # ip:port
lease-renewal-interval-in-seconds: 5 # 实例续期心跳间隔(默认30s),设置之后启动服务不需要等很久就可以访问到服务的内容
lease-expiration-duration-in-seconds: 15 # 实例续期持续多久后失效(默认90s)
RestTemplateConfig.java
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;
/**
* @Title RestTemplateConfig
*
@Description RestTemplateConfig
*
* @author ACGkaka
* @date 2023/7/3 16:30
*/
@Configuration
public class RestTemplateConfig {
@Bean
@LoadBalanced
public RestTemplate restTemplate() {
return new RestTemplate();
}
}
SpringbootDemoApplication.java
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;
@EnableEurekaClient
@SpringBootApplication
public class SpringbootDemoApplication {
public static void main(String[] args) {
SpringApplication.run(SpringbootDemoApplication.class, args);
}
}
DemoController.java
package com.demo.controller;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
/**
* @Title DemoController
*
@Description DemoController
*
* @author ACGkaka
* @date 2023/7/3 16:34
*/
@RestController
@RequestMapping("/demo")
public class DemoController {
/**
* 服务地址
*/
private static final String INVOKE_URL = "http://springboot-ribbon";
@Value("${server.port}")
private String port;
@Autowired
@LoadBalanced
private RestTemplate restTemplate;
@GetMapping("/test")
public String test() {
return "Hello, Ribbon! port:" + port;
}
@GetMapping("/ribbonTest")
public String ribbonTest() {
return restTemplate.getForObject(INVOKE_URL + "/demo/test", String.class);
}
}
点击 Edit
编辑启动配置。
选择 Muldify Options
。
在启动配置中选择允许运行多个实例。
启动端口 8081
后,修改 applycation.yml,再端口 8082
,共两个实例。
第一次请求地址:http://localhost:8081/demo/ribbonTest
第二次请求地址:http://localhost:8081/demo/ribbonTest
测试结果成功轮询访问了 8081
和 8082
两个端口的实例。
负载均衡到底要解决什么样的问题?
Ribbon 如何获取和维护服务节点?
ServerList
:服务列表接口。ServerListFilter
:服务列表过滤接口。ServerListUpdater
:服务列表更新接口。如何实现负载均衡策略?
IRule
接口实现类。如何获取服务统计数据?
ServerStatus
ZoneSnapshot
LoadBalanceStats
如何实现配置体系?
IClientConfig
:Ribbon 原生配置接口。SpringClientFactory
:Spring 配置隔离。如何实现心跳检测?
IPing
接口IPingStrategy
接口如何进行负载均衡调度管理?
通过 ILoadBalancer
接口。
public class BaseLoadBalancer extends AbstractLoadBalancer implements
PrimeConnections.PrimeConnectionListener, IClientConfigAware {
protected IRule rule = DEFAULT_RULE; // 负载均衡策略
protected IPingStrategy pingStrategy = DEFAULT_PING_STRATEGY; // 心跳检测策略
protected IPing ping = null; // 心跳检测
protected LoadBalancerStats lbStats; // 负载均衡统计数据
private IClientConfig config; // 负载均衡策略
}
public class DynamicServerListLoadBalancer<T extends Server> extends BaseLoadBalancer {
volatile ServerList<T> serverListImpl; // 服务列表
volatile ServerListFilter<T> filter; // 服务列表过滤器
protected volatile ServerListUpdater serverListUpdater; // 服务列表更新器
}
Ribbon 如何与客户端进行整合?
RestTemplate
配合使用。openfeign
配合使用。整理完毕,完结撒花~