LVS+KeepAlived集群

LVS+KeepAlived集群

一.KeepAlived的原理

1.1基于什么协议

KeepAlived基于VRRP热备份协议

# VRRP协议号112

# VRRP组播地址224.0.0.18

# VRRP通告报文的TTL值必须是255

1.2如何选举Master

1）初始化时根据state判断master和backup。
2）最终根据优先级决定master和backup

1.2如何生成VIP

master服务器会根据IP命令生成一个VIP

1.3如何实现故障切换

1）master服务器会定时发送报文给backup服务器，报告存活状态
2）当backup服务器监听时在超时时间内无法正常收到master服务器发送的报文时，backup服务器就会抢占master服务器角色成为master开始工作，并生成VIP地址。

1.4抢占模式和非抢占模式是如何工作的?

抢占模式
当master服务器恢复正常时，VIP会重新回到master服务器上，backup服务器会在进入休眠状态，监听master。
非抢占模式
当master服务器恢复正常后，VIP不会回到master服务器上，VIP地址还是工作做backup服务器上。

1.5如何配置非抢占模式

1)state全部设置为BACKUP
2)添加配置参数nopreempt

1.6什么是脑裂现象

master和backup都有VIP地址，都自认为自己是master服务器

1.7脑裂现象产生原因

mater服务器和backup服务器之间通信链路出现故障，backup服务器无法收到master服务器的VIP报文，误认为master服务器出现故障，把自己提升为master服务器生成VIP地址。

1.7脑裂的解决办法

第一时间关闭主备服务器中任意一台中的KeepAlived的服务。

1.8如何预防脑裂的发生

1）主备服务器之间多增加一条通信链路，减少因硬件原因产生脑裂现象的概率。
2）在主服务器上编写脚本，时刻监听主备服务器之间的通信是否正常，当通信中断后第一时间，关闭主服务器上的KeepAlived服务。
3）通过第三方监控软件，监听主备服务器之间的通信链路状态和主备服务器是否都有VIP地址，如果通信断开或者主备服务器上都有VIP地址，第一时间关闭主服务器上的KeepAlived服务。

1.9如何健康检查调度器和节点服务器?

调度器检查
LVS是基于内核开发的，因此系统不崩溃的情况下，不会出现问题。
nginx作为调度器时，需要在keepalived的配置文件中添加运行监控nginx的脚本，时刻nginx的服务状态，当nginx服务关闭时，第一件事情关闭keepalived服务；或者可以在脚本添加重启nginx服务。

节点服务器检查
1）通过tcp端口的三次握手情况，三次握手正常，证明节点服务器工作正常。
2）通过http的get请求方法检查，当返回的响应状态码为2xx,3xx即为正常；当返回的响应状态码为4xx,5xx即为异常。

1.10Keepalived体系主要模块及其作用

keepalived体系架构中主要有三个模块，分别是core、check和vrrp。
●core模块：为keepalived的核心，负责主进程的启动、维护及全局配置文件的加载和解析。
●vrrp模块：是来实现VRRP协议的。（调度器之间的健康检查和主备切换）
●check模块：负责健康检查，常见的方式有端口检查及URL检查。（节点服务器的健康检查）

二.LVS+KeepAlived集群部署

2.1实验部署

2.2实验操作

2.2.1web服务器安装

关闭防火墙
安装httpd服务，提供页面
在回环网卡的虚接口上配置VIP ，添加路由转发规则
修改内核参数

systemctl stop firewalld
setenforce 0

yum -y install httpd
systemctl start httpd

--192.168.111.40---
echo 'this is 192.168.111.45 httpd service' > /var/www/html/index.html

--192.168.111.50---
echo 'this is 192.168.111.40 httpd service' > /var/www/html/index.html

vim /etc/sysconfig/network-scripts/ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.111.168
NETMASK=255.255.255.255

service network restart 或 systemctl restart network
ifup lo:0
ifconfig lo:0
route add -host 192.168.111.168 dev lo:0

vim /etc/sysctl.conf

net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2

sysctl -p

2.2.2主备服务器配置

关闭防火墙
安装keepalived ipvsadm 服务
加载内核模块
修改keepalived配置文件
启动ipvsadm 服务
修改内核配置参数

1.配置负载调度器（主、备相同）
systemctl stop firewalld.service
setenforce 0

yum -y install ipvsadm keepalived
modprobe ip_vs
cat /proc/net/ip_vs

（1）配置keeplived（主、备DR 服务器上都要设置）
cd /etc/keepalived/
cp keepalived.conf keepalived.conf.bak
vim keepalived.conf
......
global_defs {						#定义全局参数
--10行--修改，邮件服务指向本地
	smtp_server 127.0.0.1
--12行--修改，指定服务器（路由器）的名称，主备服务器名称须不同，主为LVS_01，备为LVS_02
	router_id LVS_01
--14行--注释掉，取消严格遵守VRRP协议功能，否则VIP无法被连接
	#vrrp_strict
}

vrrp_instance VI_1 {				#定义VRRP热备实例参数
--20行--修改，指定热备状态，主为MASTER，备为BACKUP
    state MASTER
--21行--修改，指定承载vip地址的物理接口
    interface ens33
--22行--修改，指定虚拟路由器的ID号，每个热备组保持一致	
    virtual_router_id 10
	#nopreempt		#如果设置非抢占模式，两个节点state必须为BACKUP，并加上配置 nopreempt
--23行--修改，指定优先级，数值越大优先级越高，这里设置主为100，备为90
    priority 100
    advert_int 1					#通告间隔秒数(心跳频率)
    authentication {				#定义认证信息,每个热备组保持一致
		auth_type PASS				#认证类型
--27行--修改，指定验证密码，主备服务器保持一致
        auth_pass abc123
    }
    virtual_ipaddress {				#指定群集vip地址
        192.168.111.168
    }
}
--36行--修改，指定虚拟服务器地址(VIP)、端口，定义虚拟服务器和Web服务器池参数
virtual_server 192.168.111.168 80 {
    delay_loop 6					#健康检查的间隔时间(秒)
    lb_algo rr						#指定调度算法，轮询(rr)
--39行--修改，指定群集工作模式，直接路由(DR)
    lb_kind DR
    persistence_timeout 0			#连接保持时间(秒)
    protocol TCP					#应用服务采用的是 TCP协议
--43行--修改，指定第一个Web节点的地址、端口
    real_server 192.168.111.10 80 {
        weight 1					#节点的权重
--45行--删除，添加以下健康检查方式		
        TCP_CHECK {
			connect_port 80			#添加检查的目标端口
			connect_timeout 3		#添加连接超时(秒)
			nb_get_retry 3			#添加重试次数
			delay_before_retry 3	#添加重试间隔
		}
	}

	real_server 192.168.111.30 80 {		#添加第二个 Web节点的地址、端口
        weight 1
        TCP_CHECK {
			connect_port 80
			connect_timeout 3
			nb_get_retry 3
			delay_before_retry 3
		}
	}
##删除后面多余的配置##
}


systemctl start keepalived
ip addr						#查看虚拟网卡vip


（2）启动 ipvsadm 服务
--192.168.111.10---
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm

ipvsadm -ln
#如没有VIP 的分发策略，则重启 keepalived 服务，systemctl restart keepalived

--192.168.111.30---
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm

ipvsadm -ln

（3）调整 proc 响应参数，关闭Linux 内核的重定向参数响应
vim /etc/sysctl.conf
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0

sysctl -p

主服务器正常工作


停止主服务器工作，VIP转移到备服务器

三.Nginx+KeepAlived高可用部署

3.1实验部署

3.2实验过程

两台虚拟机
主服务器：192.168.111.40
备服务器：192.168.111.45

关闭防火墙
yum  安装nginx及keepalived软件
在添加ngixn服务静态页面有所区别
echo "this is 192.168.111.40 nginx web" >index.html
echo "this is 192.168.111.45 nginx web" >index.html

修改主服务器的keepalived 的配置文件
检测nginx服务的脚本
vrrp_script chk_http_port {
    script "/usr/local/src/check_nginx_pid.sh" #心跳执行的脚本，检测nginx是否启动
    interval 2                          #（检测脚本执行的间隔，单位是秒）
    weight 2                            #权重
}
#vrrp 实例定义部分
vrrp_instance VI_1 {
    state MASTER            # 指定keepalived的角色，MASTER为主，BACKUP为备
    interface ens33         # 当前进行vrrp通讯的网络接口卡(当前centos的网卡) 用ifconfig查看你具体的网卡
    virtual_router_id 66    # 虚拟路由编号，主从要一直
    priority 100            # 优先级，数值越大，获取处理请求的优先级越高
    advert_int 1            # 检查间隔，默认为1s(vrrp组播周期秒数)
    #授权访问
    authentication {
        auth_type PASS #设置验证类型和密码，MASTER和BACKUP必须使用相同的密码才能正常通信
        auth_pass 1111
    }
    track_script {
        chk_http_port            #（调用检测脚本）
    }
    virtual_ipaddress {
        192.168.111.188            # 定义虚拟ip(VIP)，可多设，每行一个
    }
}

修改备服务器的keepalived配置文件
#检测脚本
vrrp_script chk_http_port {
    script "/usr/local/src/check_nginx_pid.sh" #心跳执行的脚本，检测nginx是否启动
    interval 2                          #（检测脚本执行的间隔）
    weight 2                            #权重
}
#vrrp 实例定义部分
vrrp_instance VI_1 {
    state BACKUP                        # 指定keepalived的角色，MASTER为主，BACKUP为备
    interface ens33                      # 当前进行vrrp通讯的网络接口卡(当前centos的网卡) 用ifconfig查看你具体的网卡
    virtual_router_id 66                # 虚拟路由编号，主从要一直
    priority 99                         # 优先级，数值越大，获取处理请求的优先级越高
    advert_int 1                        # 检查间隔，默认为1s(vrrp组播周期秒数)
    #授权访问
    authentication {
        auth_type PASS #设置验证类型和密码，MASTER和BACKUP必须使用相同的密码才能正常通信
        auth_pass 1111
    }
    track_script {
        chk_http_port                   #（调用检测脚本）
    }
    virtual_ipaddress {
        192.168.111.168                  # 定义虚拟ip(VIP)，可多设，每行一个
    }
}

设置监控nginx服务的脚本
#!/bin/bash
#检测nginx是否启动了
A=`ps -C nginx --no-header |wc -l`        
if [ $A -eq 0 ];then    #如果nginx没有启动就启动nginx                        
      systemctl start nginx                #重启nginx
      if [ `ps -C nginx --no-header |wc -l` -eq 0 ];then    #nginx重启失败，则停掉keepalived服务，进行VIP转移
              killall keepalived                    
      fi
fi
脚本授权:chmod 775 check_nginx_pid.sh

3.3实验结果验证

正常情况下主服务器提供nginx服务

切断主服务器nginx服务同时停止keepalived服务