LVS+Keepalived

前言

在这个高度信息化的 IT 时代,企业的生产系统、业务运营、销售和支持,以及日常管理等环节越来越依赖于计算机信息和服务,对高可用(HA)技术的应用需求不断提高,以便提供持续的、不间断的计算机系统或网络服务。

一、Keepalived的概念

1. Keepalived 概述

Keeplived是一款专为LVS和HA设计的健康检查工具。主要支持故障自动切换(Failover)和支持节点健康状态检查(Health Checking)。官方网站: http://www.keepalived.org/。

2. Keepalived 作用

判断LVS负载调度器、节点服务器的可用性,当master主机出现故障及时切换到backup节点保证业务正常,当master故障主机恢复后将其重新加入群集并且业务重新切换回master节点。

3. Keepalived 实现原理剖析

3.1 Keepalived 工作原理

Keepalived是一个基于VRRP热备份协议来实现服务高可用方案,可用解决静态路由出现的单点故障问题。

在一个LVS服条集群中通常有主服条器(MASTER)和备份服务器(BACKUP)两种角色的服务器,但是对外表现为一个虚拟IP(VIP),主服务器会发送VRRP通告信息给备份服务器,当备份服务器收不到VRRP消息的时候,即主服务器异常的时候,备份服务器就会接管虚拟IP,继续提供服务,从而保证了高可用性。
LVS+Keepalived_第1张图片

3.2 VRRP协议(虚拟路由冗余协议)

VRRP是一种容错协议,它通过把几台路由设备联合组成一台虚拟的路由设备,并通过一定的机制来保证当主机的下一跳设备出现故障时,可以及时将业务切换到其它设备,从而保持通讯的连续性和可靠性。

VRRP将局域网内的一组路由器划分在一起,称为一个备份组。备份组由一个Master路由器和多个Backup路由器组成,功能上相当于一台虚拟路由器。局域网内的主机只需要知道这个虚拟路由器的IP地址,并不需知道具体某台设备的IP地址,将网络内主机的缺省网关设置为该虚拟路由器的IP地址,主机就可以利用该虚拟网关与外部网络进行通信。

VRRP将该虚拟路由器动态关联到承担传输业务的物理路由器上,当该物理路由器出现故障时,再次选择新路由器来接替业务传输工作,整个过程对用户完全透明,实现了内部网络和外部网络不间断通信。

4. Keepalived 主要模块及其作用

keepalived体系架构中主要有三个模块,分别是core、check和vrrp。

  • core模块:为keepalived的核心,负责主进程的启动、维护及全局配置文件的加载和解析。
  • vrrp模块:是来实现VRRP协议的。(调度器之间的健康检查和主备切换)
  • check模块:负责健康检查,常见的方式有端口检查及URL检查。(节点服务器的健康检查)

4.1 健康检查方式(学名:探针)

发送心跳信息。例如ping/pong命令等等。

TCP端口检查。例如向一台主机的IP:PROT发送TCP三次握手连接。

HTTP URL检查。例如向一台主机的http://IP+PROT/...URL路径发送HTTP GET{}请求方法,主机响应返回2xx或者3xx为正常,若响应返回4xx或者5xx则认为健康检查异常。

5. 脑裂的形成和解决

5.1 什么是脑裂

脑裂(split-brain):指在一个高可用(HA)系统中,当联系着的两个节点断开联系时,本来为一个整体的系统,分裂为两个独立节点,这时两个节点开始争抢共享资源,结果会导致系统混乱,数据损坏。

对于无状态服务的HA,无所谓脑裂不脑裂;但对有状态服务(比如MySQL)的HA,必须要严格防止脑裂。

5.2 脑裂的形成

Master一直发送心跳消息给backup主机,如果中间的链路突然断掉,backup主机将无法收到master主机发送过来的心跳消息(也就是vrrp报文),backup这时候会立即抢占master的工作,但其实这时候的master是正常工作的,此时就会出现脑裂的现象。

5.3 预防脑裂的发生

  • 使用shell脚本对这两个主机之间的连通性进行监测,如果发现有问题,就会立即关闭keepalived服务来防止脑裂的产生。
  • 增加一条链路作为备用链路,即使主链路挂掉了,备用链路也会顶上来,master主机可以继续给backup主机发送心跳消息。
  • 使用监控软件的方法,这边主要是采用的zabbix来监控的,主要就是创建监控项,创建触发器来测试关闭keepalived服务。

二、LVS+Keepalived 高可用集群部署

1. 环境部署

LVS+Keepalived_第2张图片

2. LVS 部署

2.1主备服务器系统配置

主备服务器共同操作
安装所需应用
加载系统内核 ip_vs 模块

[root@localhost ~]# systemctl stop firewalld.service
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum -y install ipvsadm keepalived
###加载ip_vs模块
[root@localhost ~]# modprobe ip_vs
###查看ip_vs版本信息
[root@localhost ~]# cat /proc/net/ip_vs
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port Forward Weight ActiveConn InActConn

2.2主服务器keepalived配置文件

[root@localhost ~]#cd /etc/keepalived/           #配置文件存放目录
[root@localhost keepalived]# cp keepalived.conf keepalived.conf.bak   #备份一份配置文件
[root@localhost keepalived]# vim keepalived.conf
......

global_defs {			###定义全局参数
	smtp_server 127.0.0.1         ###--10行--修改,邮件服务指向本地
	smtp_connect_timeout 30         ###连接超时时间
	router_id LVS_01          ###--12行--修改,指定服务器(路由器)的名称,主备服务器名称须不同,主为LVS_01,备为LVS_02
   #vrrp_skip_check_adv_addr                      ###这四行注释掉,取消严格遵守VRRP协议功能,否则VIP无法被连接
   #vrrp_strict
   #vrrp_garp_interval 0
   #vrrp_gna_interval 0
  
}


vrrp_instance VI_1 {		   ###定义VRRP热备实例参数
    state MASTER               ###--20行--修改,指定热备状态,主为MASTER,备为BACKUP
    interface ens33            ###--21行--修改,指定承载vip地址的物理接口
    virtual_router_id 10       ###--22行--修改,指定虚拟路由器的ID号,每个热备组保持一致	
	#nopreempt					###如果设置非抢占模式,两个节点state必须为BACKUP,并加上配置 nopreempt
    priority 100         ###--23行--修改,指定优先级,数值越大优先级越高,这里设置主为100,备为90
    advert_int 1					###通告间隔秒数(心跳频率)
   
    authentication {				###定义认证信息,每个热备组保持一致
		auth_type PASS				###认证类型
        auth_pass abc123         ###--27行--修改,指定验证密码,主备服务器保持一致
    }
    
    virtual_ipaddress {				###指定群集vip地址
        192.168.60.200
    }
}


virtual_server 192.168.60.200 80 {     ###--36行--修改,指定虚拟服务器地址(VIP)、端口,定义虚拟服务器和Web服务器池参数
    delay_loop 6					###健康检查的间隔时间(秒)
    lb_algo rr						###指定调度算法,轮询(rr)
    lb_kind DR       ###--39行--修改,指定群集工作模式,直接路由(DR)
    persistence_timeout 0			###连接保持时间(秒)
    protocol TCP					###应用服务采用的是 TCP协议

    real_server 192.168.60.4480 {    ###--43行--修改,指定第一个真实的物理节点的地址、端口
        weight 1					#节点的权重	
        TCP_CHECK {                 ###--45行--使用 TCP_CHECK 健康检查方式
			connect_port 80			#添加检查的目标端口
			connect_timeout 3		#添加连接超时(秒)
			nb_get_retry 3			#添加重试次数
			delay_before_retry 3	#添加重试间隔
		}
	}

	real_server 192.168.145.60 80 {		#添加第二个真实的物理节点的地址、端口
        weight 1
        TCP_CHECK {
			connect_port 80
			connect_timeout 3
			nb_get_retry 3
			delay_before_retry 3
		}
	}
##删除后面多余的配置##
}

2.3备服务器keepalived配置文件

[root@localhost ~]#cd /etc/keepalived/           #配置文件存放目录
[root@localhost keepalived]# cp keepalived.conf keepalived.conf.bak   #备份一份配置文件
[root@localhost keepalived]# vim keepalived.conf
......

global_defs {			###定义全局参数
	smtp_server 127.0.0.1  
	smtp_connect_timeout 30    
	router_id LVS_02          ###--12行--修改,指定服务器(路由器)的名称,主备服务器名称须不同,主为LVS_01,备为LVS_02
   #vrrp_skip_check_adv_addr          ###这四行注释掉,取消严格遵守VRRP协议功能,否则VIP无法被连接
   #vrrp_strict
   #vrrp_garp_interval 0
   #vrrp_gna_interval 0
  
}


vrrp_instance VI_1 {		
    state BACKUP               ###--20行--修改,指定热备状态,主为MASTER,备为BACKUP
    interface ens33           
    virtual_router_id 10       ###--22行--修改,指定虚拟路由器的ID号,每个热备组保持一致	
	#nopreempt			
    priority 90         ###--23行--修改,指定优先级,数值越大优先级越高,这里设置主为100,备为90
    advert_int 1				
   
    authentication {				###定义认证信息,每个热备组保持一致
		auth_type PASS				###认证类型
        auth_pass abc123         ###--27行--修改,指定验证密码,主备服务器保持一致
    }
    
    virtual_ipaddress {			
        192.168.60.200
    }
}


virtual_server 192.168.60.200 80 {    
    delay_loop 6					
    lb_algo rr						
    lb_kind DR   
    persistence_timeout 0		
    protocol TCP				

    real_server 192.168.60.4480 {  
        weight 1				
        TCP_CHECK {             
			connect_port 80		
			connect_timeout 3	
			nb_get_retry 3			
			delay_before_retry 3
		}
	}

	real_server 192.168.145.60 80 {		
        weight 1
        TCP_CHECK {
			connect_port 80
			connect_timeout 3
			nb_get_retry 3
			delay_before_retry 3
		}
	}
##删除后面多余的配置##
}

主配置
LVS+Keepalived_第3张图片
备配置

LVS+Keepalived_第4张图片

LVS+Keepalived_第5张图片
LVS+Keepalived_第6张图片
LVS+Keepalived_第7张图片
LVS+Keepalived_第8张图片
LVS+Keepalived_第9张图片




(非抢占模式)

LVS+Keepalived_第10张图片




2.4启动 ipvsadm 服务

[root@www keepalived]#  ipvsadm-save > /etc/sysconfig/ipvsadm
[root@www keepalived]#  systemctl start ipvsadm
[root@www keepalived]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.60.200:80 rr
  -> 192.168.60.44:80             Route   1      0          0         
  -> 192.168.60.111:80            Route   1      0          0         
[root@www keepalived]# ^C

LVS+Keepalived_第11张图片

2.3调整 proc 响应参数,关闭Linux 内核的重定向参数响应

[root@localhost ~]# vim /etc/sysctl.conf
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
###刷新
[root@localhost ~]# sysctl -p
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens32.send_redirects = 0

2.4 配置节点服务器

(1)关闭防火墙,安装httpd服务

[root@localhost ~]#[root@localhost ~]#systemctl stop firewalld
[root@localhost ~]#setenforce 0

[root@localhost ~]# yum -y install httpd
[root@localhost ~]# systemctl start httpd

(2)设置访问网页

###--192.168.145.45---
[root@localhost ~]# echo 'this is accp web!' > /var/www/html/index.html

###--192.168.145.60---
[root@localhost ~]# echo 'this is benet web!' > /var/www/html/index.html

(3)网卡配置以及配置虚拟VIP地址

[root@localhost ~]# vim /etc/sysconfig/network-scripts/ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.145.20
###注意:子网掩码必须全为 1
NETMASK=255.255.255.255

[root@localhost ~]#service network restart
###启动环回网卡
[root@localhost ~]#ifup lo:0
###启动环回网卡
[root@localhost ~]#ifconfig lo:0
lo:0: flags=73  mtu 65536
        inet 192.168.145.20  netmask 255.255.255.255
        loop  txqueuelen 1000  (Local Loopback)
[root@localhost ~]#route add -host 192.168.145.20 dev lo:0        ##添加路由地址
###调整内核的 ARP 响应参数以阻止更新 VIP 的 MAC 地址,避免发生冲突
[root@localhost ~]#vim /etc/sysctl.conf
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
###刷新
[root@localhost ~]#sysctl -p
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2

主备连通性检测脚本

LVS+Keepalived_第12张图片

###主调度器
###判断主从调度器之间链路是否断连
ping -c 3 -i 0.5 -w 2 192.168.60.16 &> /dev/null 

###在主备连接不通时再次ssh连接节点服务器进行ping备服务器操作,判断
是否为主备之间的链路出现问题,如果节点服务器可以ping通则说明是主备
之间的链路出现问题则关闭主服务器的keepalived服务,来解决脑裂现象
if [ $? -ne 0 ];then
  ssh 192.168.60.111 ping -c 3 -i 0.5 -w 2 -I 192.168.60.111 192.168.60.16 &> /dev/null 
  if [ $? -eq 0 ];then
      systemctl stop keepalived
  fi
fi

你可能感兴趣的:(lvs,服务器,网络)