keepalived实现LVS集群的高可用(1)
HA集群：高可用集群：
实现方式：vrrp协议和ais完备HA集群
vrrp可以由keepalived实现
ais可以由heartbeat和corosync
vrrp协议：虚拟冗余路由协议
VRRP为虚拟路由冗余协议，目的就是为了解决静态路由单点故障问题。在一个VRRP虚拟路由器中，有多台物理的VRRP路由器，但是这多台的物理的机器并不能同时工作，而是由一台称为MASTER的负责路由工作，其它的都是BACKUP，MASTER并非一成不变，VRRP让每个VRRP路由器参与竞选，最终获胜的就是MASTER。MASTER拥有一些特权，比如，拥有虚拟路由器的IP地址，我们的主机就是用这个IP地址作为静态路由的。拥有特权的MASTER要负责转发发送给网关地址的包和响应ARP请求。
VRRP通过竞选协议来实现虚拟路由器的功能，所有的协议报文都是通过IP多播(multicast)包(多播地址224.0.0.18)形式发送的。虚拟路由器由VRID(范围0-255)和一组IP地址组成，对外表现为一个周知的MAC地址。所以，在一个虚拟路由 器中，不管谁是MASTER，对外都是相同的MAC和IP(称之为VIP)。客户端主机并不需要因为MASTER的改变而修改自己的路由配置，对客户端来说，这种主从的切换是透明的。（虚拟MAC地址：00-00-5E-00-01-(VRID)
在一个虚拟路由器中，只有作为MASTER的VRRP路由器会一直发送VRRP通告信息(VRRPAdvertisement message)，BACKUP不会抢占MASTER，除非它的优先级(priority)更高。当MASTER不可用时(BACKUP收不到通告信息)， 多台BACKUP中优先级最高的这台会被抢占为MASTER。这种抢占是非常快速的(<1s)，以保证服务的连续性。由于安全性考虑，VRRP包使用了加密协议进行加密。
keepalived：vrrp协议的实现
keepalived是基于vrrp协议实现的一个高可用集群解决方案，可以利用keepalived来解决单点故障问题，使用keepalived实现的高可用集群方案中，一般有两台服务器，一个是MASTER（主服务器），另一个是BACKUP（备用服务器），这个集群中对外提供一个虚拟IP，MASTER服务器会定时发送特定信息给BACKUP服务器，当BACKUP服务器接收不到MASTER发送的消息时，BACKUP服务器会接管虚拟IP，继续提供服务。
keepalive实现高可用集群：
实验准备：
虚拟机: 172.18.250.75 lvs_master 安装keepalived
虚拟机： 172.18.250.76 lvs_backup 安装keepalived
虚拟机： 172.18.250.77 web_server1 安装nginx
虚拟机： 172.18.250.79 web_server2 安装nginx
两台lvs调度器上安装keepalived服务，当主master出现故障，备机立即抢夺对外的虚拟IP及MAC地址，继续提供服务。
keepalived服务对web服务器进行健康检测，一旦web服务器出现故障，立马剔除集群，如果web修复好了，自动把web服务加入到集群中。
一、安装keepalived服务
]# yum -y install keepalived 在两台调度器上安装 ]# yum -y install keepalived
主配置文件：/etc/keepalived/keepalived.conf
]# vim /etc/keepalived/keepalived.conf
global_defs { //全局定义
notification_email { //提醒邮件
root@localhost
}
notification_email_from [email protected]
smtp_server 127.0.0.1 //smtp邮件服务
smtp_connect_timeout 30 //邮件超时时长
router_id node1 //定义虚拟路由的名称
vrrp_mcast_group4 224.0.74.18 //定义vrrp的组播域
}
vrrp_instance VI_1 {
state MASTER //当前节点的状态
interface eth0 //vrrp工作的接口
virtual_router_id 150 //虚拟路由的ID
priority 100 //优先级
advert_int 1 //广播通告的时间间隔
authentication { //认证方式
auth_type PASS //简单认证方式
auth_pass 1111 //密码
}
virtual_ipaddress { //虚拟路由的VIP
172.18.250.99
}
# nopreempt //非抢占模式，默认为抢占模式
# preempt_delay 300 //多久才抢占
}
在另一台备机上只要把state 修改成BACKUP proiority 95就行，其他保持不变
测试两台调度器是否能实现高可用:
]# service keepalived start Starting keepalived: [ OK ] ]# ifconfig eth0:0 Link encap:Ethernet HWaddr 00:0C:29:31:F1:3A inet addr:172.18.250.99 Bcast:0.0.0.0 Mask:255.255.255.255 UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 //主调度器上的虚拟VIP已经起来了
]# service keepalived start Starting keepalived: [ OK ] ]# ifconfig eth0 Link encap:Ethernet HWaddr 00:0C:29:F6:9E:DF inet addr:172.18.250.76 Bcast:172.18.255.255 Mask:255.255.0.0 inet6 addr: fe80::20c:29ff:fef6:9edf/64 Scope:Link //备调度器上的优先级更低，所以不会抢占
主调度器挂了，测试备调度器是否会抢占VIP：
]# ifconfig eth0 Link encap:Ethernet HWaddr 00:0C:29:F6:9E:DF inet addr:172.18.250.76 Bcast:172.18.255.255 Mask:255.255.0.0 inet6 addr: fe80::20c:29ff:fef6:9edf/64 Scope:Link UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 RX packets:188276 errors:0 dropped:0 overruns:0 frame:0 TX packets:25467 errors:0 dropped:0 overruns:0 carrier:0 collisions:0 txqueuelen:1000 RX bytes:65884009 (62.8 MiB) TX bytes:9932551 (9.4 MiB) eth0:0 Link encap:Ethernet HWaddr 00:0C:29:F6:9E:DF inet addr:172.18.250.99 Bcast:0.0.0.0 Mask:255.255.255.255 UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 //能抢占VIP
主调度器起来，抢占VIP，实现了LVS调度器的高可用：
]# ifconfig eth0 Link encap:Ethernet HWaddr 00:0C:29:31:F1:3A inet addr:172.18.250.75 Bcast:172.18.255.255 Mask:255.255.0.0 inet6 addr: fe80::20c:29ff:fe31:f13a/64 Scope:Link UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 RX packets:20767 errors:0 dropped:0 overruns:0 frame:0 TX packets:5509 errors:0 dropped:0 overruns:0 carrier:0 collisions:0 txqueuelen:1000 RX bytes:4669454 (4.4 MiB) TX bytes:682094 (666.1 KiB) eth0:0 Link encap:Ethernet HWaddr 00:0C:29:31:F1:3A inet addr:172.18.250.99 Bcast:0.0.0.0 Mask:255.255.255.255 UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
二、安装nginx服务，实现Web集群的高可用：
注意：实现高可用集群时，需要注意以下几点：
1、时间需要一致，可用通过同步时间服务器；
2、确保iptables和selinux不会成为阻碍
3、各节点之间可通过主机互相通信（对Keepalived并非必须）；
4、各节点之间的root用户可以基于密钥认证的ssh通信（对KA并非必须）。
]# vim /etc/keepalived/keepalived.conf
virtual_server 172.18.250.99 80 { //定义虚拟集群
delay_loop 6 //定义服务轮询时间
lb_algo rr //定义集群算法
lb_kind DR //定义集群的模式
persistence_timeout 0 //定义保持连接时长
protocol TCP //定义协议，只支持TCP
real_server 172.18.250.77 80 { //定义RS
weight 1 //权重
HTTP_GET { //对RS做状态健康检测，有SSL_GET TCP_CHECK
url {
path /index.html //请求主页
status_code 200 //返回200证明RS是正常的
}
connect_timeout 3 //连接超时时长
nb_get_retry 3 //超时后在检测三次
delay_before_retry 3 //等待3秒在检测
}
}
real_server 172.18.250.79 80 {
weight 1
HTTP_GET {
url {
path /index.html
status_code 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
}
因为是DR模式，所以需要隔绝arp通告，让报文的源地址是VIP
]# echo 1 >/proc/sys/net/ipv4/conf/all/arp_ignore ]# echo 1 >/proc/sys/net/ipv4/conf/lo/arp_ignore ]# echo 2 >/proc/sys/net/ipv4/conf/all/arp_announce ]# echo 2 >/proc/sys/net/ipv4/conf/lo/arp_announce ]# ifconfig lo:0 172.18.250.99 netmask 255.255.255.255 broadcast 172.18.250.99 ]# route add -host 172.18.250.99 dev lo:0
在其它虚拟机上测试是否实现负载均衡：
]# curl http://172.18.250.99/index.html Hello RS1 ]# curl http://172.18.250.99/index.html Hello RS2 ]# curl http://172.18.250.99/index.html Hello RS1 ]# curl http://172.18.250.99/index.html Hello RS2
测试keepalived是否能对RS实现高可用：
]# /usr/local/nginx/sbin/nginx -s stop //停止250.77这台虚拟机的80端口 ]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 172.18.250.99:80 rr -> 172.18.250.79:80 Route 1 0 0 //剔除lvs集群服务 ]# curl http://172.18.250.99/index.html Hello RS2 //依然能提供服务 ]# /usr/local/nginx/sbin/nginx -s start //开启250.77这台虚拟机的80端口 ]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 172.18.250.99:80 rr -> 172.18.250.77:80 Route 1 0 0 -> 172.18.250.79:80 Route 1 0 1 //加入到Lvs集群中 ]# curl http://172.18.250.99/index.html Hello RS1 //提供服务 ]# curl http://172.18.250.99/index.html Hello RS2