一、简易拓扑如下:
二、配置的简单说明:
Director的HA暂不使用,仅10.1.1.11上线,使用管理工具ipvsadm配置指令如下:
1、Director常规配置
正常配置IP,检查防火墙开启相关端口,如无其他需求,推荐直接关闭
setenforce 0 修改SElinux运行模式(非必要操作)
2、Director配置VIP
ifconfig eth0:1 10.1.1.100/24 up
(ifconfig eth0:1 10.1.1.100 broadcast 10.1.1.100 netmask 255.255.255.255 up)
说明: 至于掩码,24或是32无所谓,其本来就是用来正常接收数据包的(基于此,尝试不使用10.1.1.11而直接在eth0上配置VIP,结果:失败,可能结论:实际的通讯不使用VIP,因而Director必须有一个其他可以正常通讯的ip)
3、Director上可能需要的其他配置
a、配置路由
route add -host 10.1.1.100 dev eth0:1
说明: 此配置不是必要的(至少基于CentOS 6.4 64b OS不需要)
b、开启转发功能
echo 1 >/proc/sys/net/ipv4/ip_forward
说明: 此配置不是必要的(至少基于CentOS 6.4 64b OS不需要)
DR模式的Director仅仅是修改目的MAC为某一台Real Server的MAC
不涉及三层的转发
4、ipvsadm 添加Vserver和Rserver
ipvsadm -A -t 10.1.1.11:80 -s wlc
ipvsadm -a -t 10.1.1.11:80 -r 10.1.1.10 -g -w 1 [ -p 60 ]
ipvsadm -a -t 10.1.1.11:80 -r 10.1.1.20 -g -w 2 [ -p 60 ]
5、如果有特殊需求 可以考虑修改 tcp超时等参数
参考指令:查看 ipvsadm -l --timeout 依次显示TCP超时时间、FIN_WAIT、UDP超时时间
设置: ipvsadm --set N1 N2 N3 建议 N2
6、配置Real Server, 以10.1.1.10为例,仅LVS相关配置
a、 linux系统作为Real Server
(防火墙、网站搭建、SElinux等等自行检查和配置)
ifconfig lo:1 10.1.1.100 netmask 255.255.255.255 broadcast 10.1.1.100 up
说明:在RS上的VIP不用来做实际通讯,作用仅仅是:使RS接受目的地址是VIP的数据包。因此VIP只要不是配置在用来实际通讯的接口即可(例如tunl0等虚拟接口都可以)
route add -host 10.1.1.100 dev lo:1
说明:此配置不是必须的(至少基于CentOS 6.4 64b OS不需要)。之所以添加此路由,目的是让RS从真实的物理接口发送数据包时,能够保证原地址是VIP而不是真实物理接口的IP(否则Client会拒绝接收)
echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
echo 1 > /proc/sys/net/ipv4/conf/eth0/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/eth0/arp_announce
说明: 此操作的目的是为了让eth0和lo拒绝相应跟自己网段无关的arp请求或通告跟自己无关的arp信息,(让lo和eth0拒绝相应关于VIP的arp请求,并阻止eth0向网络中通告关于VIP的MAC信息)。为了以后防止更改使用的物理网口,可以设置:
echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
b、weindows系统作为Real Server, 分别以windows server 2003 和 2008R2 说明
针对windows系统我们首相要做的就是添加一个loopback网卡,用它来配置我们的VIP。
简单描述在windows OS中,添加loopback网卡的过程:
2003中:控制面板->添加硬件
2008中:见下图,选中设备管理器中的主机右键选择“添加新硬件”
在配置VIP,并将其掩码设置为255.255.255.255时,2003 系统会遇到问题:
此时 可以先将掩码设置为255.255.255.0,然后修改注册表如下:
HKEY_LOCAL_MACHINE\SYSTEM\CurrentConrolSert\Services\Tcpip\Parameters\Interfaces
其下可能会包含多个子项,可以根据右边的ipaddress键值判断哪个为loopback的配置项,确定之后
修改其netmask键值为255.255.255.255即可,重启系统后检查掩码是否生效。
(2003 OS不需要做与arp响应和通告的设置)
在2008 R2 OS中, 设置掩码为255.255.255.255的VIP没有问题,但设置完成之后需要对arp的响应和通告做配置,执行如下指令即可:
netsh interface ipv4 set interface "网卡别名" weakhostreceive=enabled
netsh interface ipv4 set interface "网卡别名" weakhostsend=enabled
例如Server 2008R2的物理网卡别名为LAN,而添加的loopback网卡就叫loopback,则执行:
netsh interface ipv4 set interface "LAN" weakhostreceive=enabled
netsh interface ipv4 set interface "LAN" weakhostsend=enabled
netsh interface ipv4 set interface "loopback" weakhostreceive=enabled
netsh interface ipv4 set interface "loopback" weakhostsend=enabled
三、常用的监控指令
ipvsadm -ln
ipvsadm -lnc
或组合watch指令
watch -n 1 'ipvsadm -ln'
watch -n 1 'ipvsadm -lnc'
四、简单说明piranha和keepalived的配置过程。
1、piranha 图形配置截图:
全局设置:
虚拟服务器的配置
添加Real Server
其中一台Real Server的配置
Director对Real Server的健康状态检查
在Director开启pulse服务器之后,可以在此页面进行监控
可以配置BACKUP Director,如下:
2、keepalived配置文件如下:
#cat /etc/keepalived/keepalived.conf
! Configuration File for keepalived
global_defs {
router_id LVS_MASTER //此处在BACKUP Director上可以另起名字
}
vrrp_instance VI_1 {
state MASTER //此处在BACKUP Director上要改为BACKUP
interface eth1
virtual_router_id 51
priority 200 //BACKUP的priority值一定要小于MASTER的
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
10.1.1.100
}
}
virtual_server 10.1.1.100 80 {
delay_loop 6
lb_algo wrr
lb_kind DR
#persistence_timeout 50
protocol TCP
# sorry_server 192.168.200.200 1358
real_server 10.1.1.10 80 {
weight 1
HTTP_GET {
connect_timeout 10
nb_get_retry 3
delay_before_retry 3
connect_port 80
}
}
real_server 10.1.1.20 80 {
weight 1
HTTP_GET {
connect_timeout 10
nb_get_retry 3
delay_before_retry 3
connect_port 80
}
}
==============================================
说明:
测试后,piranha的Director HA和 对Real Server的健康状态检测都没有问题; 在使用keepalived时, Director HA没有问题,但对Real Server的健康状态检查不能生效(当一台Web Server 宕机之后,其不能再 RS 列表中将其删除),于是写了一个简单小脚本来实现,可以让其在开启启动后自动在后台运行,脚本内容如下:
======================END=========================