LVS-DR模式
目录
1、LVS-DR模式的介绍
2、LVS-DR数据流向分析
3、LVS-DR模式的特点与有优缺点
1、特点：
2、优缺点：
4、LVS-DR中的ARP问题
1、调度器和节点服务器的相同VIP地址冲突
2、二次访问ARP表，导致Director的VIP失效
解决ARP的两个问题的设置方法：
1、LVS-DR模式的介绍
LVS-DR工作模式 ，是生产环境中最常用的一 种工作模式。
LVS-DR 模式，Director Server 作为群集的访问入口，不作为网关使用
节点 Director Server 与 Real Server 需要在同一个网络中，返回给客户端的数据不需要经过 Director
Server。
为了响应对整个群集的访问，Director Server 与 Real Server 都需要配置 VIP 地址。
2、LVS-DR数据流向分析
（1）客户端发送请求到 Director Server（负载均衡器），请求的数据报文（源 IP 是 CIP,目标 IP 是 VIP）到达内核空间。
（2）Director Server 和 Real Server 在同一个网络中，数据通过二层数据链路层来传输。
（3）内核空间判断数据包的目标IP是本机VIP，此时IPVS（IP虚拟服务器）比对数据包请求的服务是否是集群服务，是集群服务就重新封装数据包。修改源 MAC 地址为 Director Server 的 MAC地址，修改目标 MAC 地址为 Real Server 的 MAC 地址，源 IP 地址与目标 IP 地址没有改变，然后将数据包发送给 Real Server。
（4）到达 Real Server 的请求报文的 MAC 地址是自身的 MAC 地址，就接收此报文。数据包重新封装报文(源 IP 地址为 VIP，目标 IP 为 CIP)，将响应报文通过 lo 接口传送给物理网卡然后向外发出。
（5）Real Server 直接将响应报文传送到客户端。
3、LVS-DR模式的特点与有优缺点
1、特点：
（1）Director Server 和 Real Server 必须在同一个物理网络中。
（2）Real Server 可以使用私有地址，也可以使用公网地址。如果使用公网地址，可以 通过互联网对 RIP 进行直接访问。
（3）Director Server作为群集的访问入口，但不作为网关使用。
（4）所有的请求报文经由 Director Server，但回复响应报文不能经过 Director Server。
（5）Real Server 的网关不允许指向 Director Server IP，即Real Server发送的数据包 不允许经过 Director Server。
（6）Real Server 上的 lo 接口配置 VIP 的 IP 地址。
2、优缺点：
优点：负载均衡器只负责将请求包分给物理服务器，而物理服务器将应答包直接发送 给用户。所以负载均衡器能处理很巨大的请求流量。这种方式，一台负载均衡 能为超过100M的物理服务器服务。负载均衡器不在是系统的瓶颈，使用LVS- DR方式，如果你的负载均衡器拥有100M全双工网卡的话，就使用整个LVS能 达到1G的吞吐量，甚至更高。LVS比NGINX的处理量更大。
缺点：所有的调度器和节点服务器在同一个广播域，不支持异地容灾
4、LVS-DR中的ARP问题
1、调度器和节点服务器的相同VIP地址冲突
问题描述：
在LVS-DR负载均衡集群中，负载均衡器与节点服务器都要配置相同的VIP地址，在局域网 中具有相同的IP地 址。势必会造成各服务器ARP通信的紊乱
经验者总结：
防止网关路由器发送ARP广播时，调度器和节点服务器都会进行响应，这里会导致ARP缓 存混乱，不对非本地物理网卡的ARP请求进行响应，因为使用虚拟接口lo:0承载VIP地址。
解决办法：
使用虚拟接口lo:0承载VIP地址。设置内核参数arp_ignore=1:系统只响应目的IP为本地IP的 ARP请求
2、二次访问ARP表，导致Director的VIP失效
问题描述：
RealServer返回报文（源IP是VIP）经路由器转发，重新封装报文时，需要先获取路由器 的MAC地址，发送ARP请求时，Linux默认使用IP包的源IP地址（即VIP）作为ARP请求包 中的源IP地址，此时路由器的路由表进行更新，VIP的MAC地址由原先的均衡器变为节点 服务器，路由器根据ARP表项，会将新来的请求报文转发给节点服务器，导致均衡器的 VIP失效，又会造成VIP的紊乱。
经验者总结：
系统不使用响应数据的源IP地址(VIP)来作为本机进行的ARP请求报文的源IP地址。而是用 发送报文的物理网卡的IP地址作为ARP请求报文的源IP地址，这样可以防止网关路由器接 收到的源IP地址为VIP的ARP请求报文后的，又去更新ARP缓存表，会导致外网再去发送 请求时，数据包到时候到达不了调度器
解决办法：
对节点服务器进行处理，设置内核参数arp_announce=2：系统不适用IP包的源地址来设 置ARP请求的源地址，而选择发送接口的IP地址。 系统不使用响应数据包的源IP地址(VIP)来作为本机进行ARP请求报文的源IP地址，而使用 发送报文的物理网卡IP地址作为ARP请求报文源IP地址，这样我们就可以防止网关路由器 收到的源IP地址为VIP的ARP请求的报文后又更新ARP缓存表，导致外网再发送请求时， 到达不了调度器。
解决ARP的两个问题的设置方法：
修改/etc/sysctl.conf文件
net.ipv4.conf.lo.arp_ignore=1
net.ipv4.conf.lo.arp_announce=2
net.ipv4.conf.all.arp_ignore=1
net.ipv4.conf.all.arp_announce=2
5、LVS-DR的部署
#DR模式 LVS负载均衡群集部署
DR 服务器：192.168.11.12
Web 服务器1：192.168.11.22
Web 服务器2：192.168.11.23
vip：192.168.11.99
客户端：192.168.11.50
1.配置负载调度器（192.168.11.12）
systemctl stop firewalld.service
setenforce 0
modprobe ip_vs
cat /proc/net/ip_vs
yum -y install ipvsadm
（1）配置虚拟 IP 地址（VIP：192.168.11.99）
cd /etc/sysconfig/network-scripts/
cp ifcfg-ens33 ifcfg-ens33:0 #若隧道模式，复制为ifcfg-tunl0
vim ifcfg-ens33:0
DEVICE=ens33:0
ONBOOT=yes
IPADDR=192.168.11.99
NETMASK=255.255.255.255
ifup ens33:0
ifconfig ens33:0
（2）调整 proc 响应参数
#由于 LVS 负载调度器和各节点需要共用 VIP 地址，需要关闭 icmp 的重定向，不充当路由器。
vim /etc/sysctl.conf
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
sysctl -p
（3）配置负载分配策略
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm
ipvsadm -C
ipvsadm -A -t 192.168.11.99:80 -s rr
ipvsadm -a -t 192.168.11.99:80 -r 192.168.11.22:80 -g #若隧道模式，-g替换为-i
ipvsadm -a -t 192.168.11.99:80 -r 192.168.11.23:80 -g
ipvsadm
ipvsadm -ln #查看节点状态，Route代表 DR模式
2.部署共享存储（NFS服务器：192.168.11.13）
systemctl stop firewalld.service
setenforce 0
yum -y install nfs-utils rpcbind
mkdir /opt/kgc /opt/benet
chmod 777 /opt/kgc /opt/benet
vim /etc/exports
/usr/share *(ro,sync)
/opt/kgc 192.168.11.0/24(rw,sync)
/opt/benet 192.168.11.0/24(rw,sync)
systemctl start nfs.service
systemctl start rpcbind.service
3.配置节点服务器（192.168.11.22、192.168.11.23）
systemctl stop firewalld.service
setenforce 0
（1）配置虚拟 IP 地址（VIP：192.168.11.99）
#此地址仅用作发送 Web响应数据包的源地址，并不需要监听客户机的访问请求（改由调度器监听并分发）。因此使用虚接口 lo∶0 来承载 VIP 地址，并为本机添加一条路由记录，将访问 VIP 的数据限制在本地，以避免通信紊乱。
cd /etc/sysconfig/network-scripts/
cp ifcfg-lo ifcfg-lo:0
vim ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.11.99
NETMASK=255.255.255.255 #注意：子网掩码必须全为 1
ifup lo:0
ifconfig lo:0
route add -host 192.168.11.99 dev lo:0
vim /etc/rc.local
/sbin/route add -host 192.168.11.99 dev lo:0
chmod +x /etc/rc.d/rc.local
（2）调整内核的 ARP 响应参数以阻止更新 VIP 的 MAC 地址，避免发生冲突
vim /etc/sysctl.conf
......
net.ipv4.conf.lo.arp_ignore = 1 #系统只响应目的IP为本地IP的ARP请求
net.ipv4.conf.lo.arp_announce = 2 #系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
sysctl -p
或者
echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
sysctl -p
yum -y install nfs-utils rpcbind httpd
systemctl start rpcbind
systemctl start httpd
--192.168.11.22---
mount.nfs 192.168.11.13:/opt/kgc /var/www/html
echo 'this is kgc web!' > /var/www/html/index.html
--192.168.11.23---
mount.nfs 192.168.11.13:/opt/benet /var/www/html
echo 'this is benet web!' > /var/www/html/index.html
4.测试 LVS 群集
在客户端使用浏览器访问 http://192.168.11.99/