java swarm集群_Docker Swarm :gRPC 基于 DNS 的负载均衡

AAffA0nNPuCLAAAAAElFTkSuQmCC

背景

后端两个服务 ServiceA、ServiceB,ServiceA 通过 gRPC 远程调用 ServiceB。在 Docker Swarm 集群下每个服务部署多个副本,假设部署两个副本,即 ServiceA 的实例为 A1 和 A2,ServiceB 的实例为 B1 和 B2。Swarm 集群内部通过 Overlay 网络实现容器间通信,ServiceA 访问 ServiceB 通过服务名称来连接,即 A1 调用 ServiceB 时,会随机调用到 B1 或者 B2;同理,A2 也是如此。

上述流程,看似合理且正常,然而实际效果是:假设 A1 连通 B1,A2 连通 B1,那么 ServiceA 的请求会一直被 B1 接收并处理,直至 TCP 连接超时,或者 B1 服务终止。gRPC 的核心概念中有 Channel ,描述 Client 与 Server 之间的连接,即 A1 与 B1 建立连接之后, Channel 会被复用。

面对这种负载不均衡的场景,我们希望 ServiceA 的每个请求能被均衡到 ServiceB 的每个实例去处理。

GRPC 负载均衡

AAffA0nNPuCLAAAAAElFTkSuQmCC

工作流程1、Client 请求解析 server name,获取一个或多个实际 IP 地址,例如 ServiceB 解析为 10.0.0.10、10.0.0.11

2、Client 实例化负载均衡策略,可选策略为 round_robin 和 grpclb。注意:如果解析程序返回的地址是均衡器地址,无论 Client 配置什么负载均衡策略,都将使用 grpclb 策略。否则,会使用 Client 配置的负载均衡策略。如果未配置,则 Client 将默认选用第一个可用服务器地址的策略

3、负载均衡衡策略为每个服务器地址创建一个子通道

4、对于每个 RPC 请求,负载均衡策略决定应将 RPC 请求发送到哪个子通道(即哪个服务器)

针对上述场景,在 Swarm 集群中,我们应该选择 dnsrr 模式,并且 gRPC 客户端配置负载均衡策略为 round_robin(轮训)即可。

配置 Load Balance Policy

不同语言配置方式不同,以下列举常用语言:

grpc-java 配置ManagedChannel channel = ManagedChannelBuilder.forAddress(server.getHost(), server.getPort())

.defaultLoadBalancingPolicy("round_robin")

.usePlaintext().build();

其他语言

有待完善。。。

配置 Docker Swarm dnsrr

Docker Swarm 默认的模式是 vip,使用 dnsrr 只需将 endpoint_mode  设置为 dnsrr 即可,相关资料:

示例:version: '3.7'services:

server:

image: "server:latest"

stop_grace_period: 20s

networks:

- idp_network

deploy:

replicas: 2

endpoint_mode: dnsrr

networks:

idp_network:

external: true

Spring Boot gRPC Load Balance 案例

1、获取案例源码git clone https://github.com/ChinaSilence/spring-boot-starter-grpc.git

2、Install 相关包

3、构建相关镜像

4、初始化 Swarm 集群docker swarm init

5、添加 Overlay 网络docker network create -d overlay --attachable idp_network

6、部署 gRPC server 和 clientdocker stack deploy -c stack.yml grpc

在 stack.yml 文件所在路径下执行

7、查看 server 端日志docker service logs -f grpc_server

8、持续通过 client 发送请求,并观察日志信息curl http://localhost:8081/v1/user/list

AAffA0nNPuCLAAAAAElFTkSuQmCC

日志输出

从日志中可以看出,server 能均衡处理 client 的请求。

作者:Anoyi

链接:https://www.jianshu.com/p/1a8986d40300

你可能感兴趣的:(java,swarm集群)