LVS + keepalived构造高可用负载均衡集群

背景

上篇讲了LVS DR模式的负载均衡模式搭建，而负载均衡可以说就是高并发的主要解决方案，那高可用呢？这就是今天要玩的。

关于keepalived

keepalived的基础是VRRP协议，全称Virtual Router Redundancy Protocol，即虚拟路由冗余协议。

虚拟路由冗余协议，所谓冗余，那肯定需要有多台机器。该协议将多台相同功能的路由器当成一个路由器组，组里包含一个master和多个backup，对外提供服务的VIP配置在master上。工作时，master发送组播，可理解为心跳。当backup收不到vrrp包就认为master服务不可用，此时其余backup根据VRRP的优先级选举master，并将VIP配置到该备机上，从而保证路由器的高可用。

keepalived有三个核心模块，分别是core、check和vrrp，

core模块为keepalived的核心，负责主进程的启动、维护以及全局配置文件的加载和解析

check负责后端机器的健康检查，包括常见的各种健康检查方式

vrrp模块即VRRP协议的实现。

keepalived主从配置

所谓主从配置，也就是说同一时刻只有一台机器在工作，其余机器当做是备机，不工作。

1、环境准备

机器                                 作用

192.168.0.100      LVS调度器对外服务IP，同时也是LVS主机

192.168.0.101      LVS备机

192.168.0.200      RIP，后端web服务器之一

192.168.0.300      RIP，后端web服务器之二

2、后端web服务器，即RS配置

该部分配置参考负载均衡——LVS DR模式中的**《后端RS配置》**进行操作，主要是虚ip的配置以及系统参数的配置。

当然，一般这部分的操作我们都会写成脚本。

3、LVS主机配置

首先安装keepalived，

yum install -y keepalived

keepalived的配置文件路径是/etc/keepalived/keepalived.conf，对于主LVS，做如下配置，

! Configuration File for keepalived

global_defs {

  router_id LVS_1                      #机器ID，用于区分机器设备

}

vrrp_instance VI_1 {                    #LVS集群实例，可以配置多个

    state MASTER         #MASTER表示这台是主LVS，备机则是BACKUP

    interface eth0             #对外IP的网卡名称

    virtual_router_id 51                #虚拟路由ID

    priority 100             #优先级指数，主机要比备机高

    advert_int 1                        #vrrp通告的时间间隔，即组播发送时间间隔

    authentication {        #vrrp组鉴权认证，VRRPv2已经不能使用

        auth_type PASS         #认证方式，密码

        auth_pass 1111             #密码，最多只接受前8位字符，集群内所有机器要设置一致

    }

    virtual_ipaddress {                  #对外提供服务的虚拟IP，也就是用户访问的IP

        192.168.0.100 

    }

}

virtual_server 192.168.0.100 80 {  #虚拟IP后端配置

    delay_loop 2         #后端健康检查时间间隔s

    lb_algo rr         #负载均衡算法，rr|wrr|lc|wlc|lblc|sh|dh可选

    lb_kind DR                          #表示LVS DR模式

    persistence_timeout 0                #连接保持时间，即同个IP在设置时间内访问同个后端负载，我们不开启，否则不好看到负载均衡效果

    protocol TCP

    real_server 192.168.0.200 80 {      #后端RS1

        weight 1                        #轮询权重

        TCP_CHECK {                      #后端健康检查方式           

            connect_timeout 1            #连接超时时间s，根据网络状况设置

            retry 1                      #重试次数，达到重试次数仍失败，后端将被从服务池中移除

            delay_before_retry 1        #重试时间间隔s

            connect_port 80              #检测端口

        }

    }

    real_server 192.168.0.300 80 { #后端RS2

        weight 1

        TCP_CHECK {                   

            connect_timeout 1 

            retry 1

            delay_before_retry 1

            connect_port 80

        }

    }

}

接着启动keepalived服务，

systemctl start keepalived

然后我们就能查看到我们配置的负载均衡策略，

[root@CentOS-7-2 ~]# ipvsadm -Ln

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

  -> RemoteAddress:Port          Forward Weight ActiveConn InActConn

TCP  192.168.0.100:80 rr

  -> 192.168.0.200:80            Route  1      0          0       

  -> 192.168.0.300:80            Route  1      0          0

同时，出口网卡eth0上也能看到我们配置的虚拟ip，192.168.0.100，

[root@CentOS-7-2 ~]# ip a show eth0

2: eth0: mtu 1500 qdisc pfifo_fast state UP qlen 1000

    link/ether 00:0c:29:2e:74:89 brd ff:ff:ff:ff:ff:ff

    inet 192.168.0.140/24 brd 192.168.0.255 scope global eth0

      valid_lft forever preferred_lft forever

    inet 192.168.0.100/32 scope global eth0

      valid_lft forever preferred_lft forever

    inet6 fe80::20c:29ff:fe2e:7489/64 scope link

      valid_lft forever preferred_lft forever

4、配置备LVS

同样需要安装keepalived，备机配置和主机的差别主要在于vrrp_instance段落，

vrrp_instance VI_1 {                    #LVS集群实例，可以配置多个

    state BACKUP #BACKUP表示这是个备机

    interface eth0             #对外IP的网卡名称

    virtual_router_id 51                #虚拟路由ID

    priority 80                 #优先级指数，备机要低于主机

    advert_int 1                        #vrrp通告的时间间隔，即组播发送时间间隔

    authentication {        #vrrp组鉴权认证，VRRPv2已经不能使用

        auth_type PASS         #认证方式，密码

        auth_pass 1111             #密码，最多只接受前8位字符，集群内所有机器要设置一致

    }

    virtual_ipaddress {                  #对外提供服务的虚拟IP，也就是用户访问的IP

        192.168.0.100 

    }

}

其他段落均一致，就不再粘贴。

配置完，同样需要启动keepalived服务。

5、故障模拟

我们停掉注LVS上的keepalived服务，以模拟主LVS故障的情况，

systemctl stop keepalived

然后观察LVS备机的/var/log/messages打印，

Jun 27 06:04:38 CentOS-7-3 Keepalived_vrrp[12710]: VRRP_Instance(VI_1) Transition to MASTER STATE

Jun 27 06:04:39 CentOS-7-3 Keepalived_vrrp[12710]: VRRP_Instance(VI_1) Entering MASTER STATE

Jun 27 06:04:39 CentOS-7-3 Keepalived_vrrp[12710]: VRRP_Instance(VI_1) setting protocol VIPs.

Jun 27 06:04:39 CentOS-7-3 Keepalived_vrrp[12710]: Sending gratuitous ARP on eth0 for 192.168.0.100

Jun 27 06:04:39 CentOS-7-3 avahi-daemon[506]: Registering new address record for 192.168.0.100 on eth0.IPv4.

Jun 27 06:04:39 CentOS-7-3 Keepalived_vrrp[12710]: VRRP_Instance(VI_1) Sending/queueing gratuitous ARPs on eth0 for 192.168.0.100

Jun 27 06:04:39 CentOS-7-3 Keepalived_vrrp[12710]: Sending gratuitous ARP on eth0 for 192.168.0.100

Jun 27 06:04:39 CentOS-7-3 Keepalived_vrrp[12710]: Sending gratuitous ARP on eth0 for 192.168.0.100

Jun 27 06:04:39 CentOS-7-3 Keepalived_vrrp[12710]: Sending gratuitous ARP on eth0 for 192.168.0.100

Jun 27 06:04:39 CentOS-7-3 Keepalived_vrrp[12710]: Sending gratuitous ARP on eth0 for 192.168.0.100

Jun 27 06:04:44 CentOS-7-3 Keepalived_vrrp[12710]: Sending gratuitous ARP on eth0 for 192.168.0.100

Jun 27 06:04:44 CentOS-7-3 Keepalived_vrrp[12710]: VRRP_Instance(VI_1) Sending/queueing gratuitous ARPs on eth0 for 192.168.0.100

Jun 27 06:04:44 CentOS-7-3 Keepalived_vrrp[12710]: Sending gratuitous ARP on eth0 for 192.168.0.100

Jun 27 06:04:44 CentOS-7-3 Keepalived_vrrp[12710]: Sending gratuitous ARP on eth0 for 192.168.0.100

Jun 27 06:04:44 CentOS-7-3 Keepalived_vrrp[12710]: Sending gratuitous ARP on eth0 for 192.168.0.100

Jun 27 06:04:44 CentOS-7-3 Keepalived_vrrp[12710]: Sending gratuitous ARP on eth0 for 192.168.0.100

可见，备机上位，成为了MASTER。再看备机的出口网卡信息，

[root@CentOS-7-3 ~]# ip a  show eth0

2: eth0: mtu 1500 qdisc pfifo_fast state UP qlen 1000

    link/ether 00:0c:29:36:e5:80 brd ff:ff:ff:ff:ff:ff

    inet 192.168.0.145/24 brd 192.168.0.255 scope global eth0

      valid_lft forever preferred_lft forever

    inet 192.168.0.100/32 scope global eth0

      valid_lft forever preferred_lft forever

    inet6 fe80::20c:29ff:fe36:e580/64 scope link

      valid_lft forever preferred_lft forever

可见，VIP已经漂移至备LVS，此时对外服务保持正常，实现了服务的高可用，避免了单点故障。

但是，主从模式也就意味着有一半的资源是没有利用的，对于资源紧张的情况，甚是可惜，因此还可以采用双主模式，也就是互为主备。