LVS―NAT群集配置
LVS是4（传输）层群集解决方案NAT，DR，TUN，FULLNAT四种模型本文主要介绍NAT模型
NAT模型的特性
RealServer应该使用私有IP地址，节约IP地址；
RealServer的网关应该指向DirectorIP；
RIP和DIP应该在同一个网段内；
进出的报文都得经过DirectoryServer，在高负载下，DirectoryServer会成为系统性能瓶颈，所以可能只适用于中小企业；
支持端口映射；
RealServer可以使用任意OS：
ipvsadm 用法基本介绍
命令选项解释：
有两种命令选项格式，长的和短的，具有相同的意思。在实际使用时，两种都可
以。
-A --add-service 在内核的虚拟服务器表中添加一条新的虚拟服务器记录。也
就是增加一台新的虚拟服务器。
-E --edit-service 编辑内核虚拟服务器表中的一条虚拟服务器记录。
-D --delete-service 删除内核虚拟服务器表中的一条虚拟服务器记录。
-C --clear 清除内核虚拟服务器表中的所有记录。
-R --restore 恢复虚拟服务器规则
-S --save 保存虚拟服务器规则，输出为-R 选项可读的格式
-a --add-server 在内核虚拟服务器表的一条记录里添加一条新的真实服务器
记录。也就是在一个虚拟服务器中增加一台新的真实服务器
-e --edit-server 编辑一条虚拟服务器记录中的某条真实服务器记录
-d --delete-server 删除一条虚拟服务器记录中的某条真实服务器记录
-L|-l --list 显示内核虚拟服务器表
-Z --zero 虚拟服务表计数器清零（清空当前的连接数量等）
--set tcp tcpfin udp 设置连接超时值
--start-daemon 启动同步守护进程。他后面可以是master 或backup，用来说
明LVS Router 是master 或是backup。在这个功能上也可以采用keepalived 的
VRRP 功能。
--stop-daemon 停止同步守护进程
-h --help 显示帮助信息
其他的选项:
-t --tcp-service service-address 说明虚拟服务器提供的是tcp 的服务
[vip:port] or [real-server-ip:port]
-u --udp-service service-address 说明虚拟服务器提供的是udp 的服务
[vip:port] or [real-server-ip:port]
-f --fwmark-service fwmark 说明是经过iptables 标记过的服务类型。
-s --scheduler scheduler 使用的调度算法，有这样几个选项
rr|wrr|lc|wlc|lblc|lblcr|dh|sh|sed|nq,
默认的调度算法是： wlc.
-p --persistent [timeout] 持久稳固的服务。这个选项的意思是来自同一个客
户的多次请求，将被同一台真实的服务器处理。timeout 的默认值为300 秒。
-M --netmask netmask persistent granularity mask
-r --real-server server-address 真实的服务器[Real-Server:port]
-g --gatewaying 指定LVS 的工作模式为直接路由模式（也是LVS 默认的模式）
-i --ipip 指定LVS 的工作模式为隧道模式
-m --masquerading 指定LVS 的工作模式为NAT 模式
-w --weight weight 真实服务器的权值
--mcast-interface interface 指定组播的同步接口
-c --connection 显示LVS 目前的连接 如：ipvsadm -L -c
--timeout 显示tcp tcpfin udp 的timeout 值 如：ipvsadm -L --timeout
--daemon 显示同步守护进程状态
--stats 显示统计信息
--rate 显示速率信息
--sort 对虚拟服务器和真实服务器排序输出
--numeric -n 输出IP 地址和端口的数字形式
ipvs采用如下10种调度算法
静态算法
轮叫调度rr（Round-Robin Scheduling）
加权轮叫调度wrr（Weighted Round-Robin Scheduling）
源地址散列调度sh（Source Hashing Scheduling）
目标地址散列调度dh（Destination Hashing Scheduling）
动态算法
最小连接调度lc（Least-Connection Scheduling）
加权最小连接调度wlc（Weighted Least-Connection Scheduling）
基于局部性的最少链接lblc（Locality-Based Least Connections Scheduling）
带复制的基于局部性最少链接lblcr（LocalityBased Least Connections with Replication Scheduling）
最短预期延时调度sed（Shortest Expected Delay Scheduling）
不排队调度nq（Never Queue Scheduling）
使用方法
[root@www ~]# ipvsadm -A -t VirtualIP:PROT [root@www ~]# ipvsadm -a -t VirtualIP:PROT -r realserverIP -m [root@www ~]# sysctl -w net.ipv4.ip_forward=1 net.ipv4.ip_forward = 1
1）后端RealServer服务器配置
RealServer 1
[root@localhost ~]# ifconfig eth0 172.15.1.2/24 [root@localhost ~]# route add default gw 172.15.1.254
安装Apache服务
[root@localhost ~]# yum install httpd [root@localhost ~]# cd /var/www/html/ [root@localhost html]# touch index.html [root@localhost html]# echo "ipvsadm 2" > index.html
RealServer 2
[root@localhost ~]# ifconfig eth0 172.15.1.3/24 [root@localhost ~]# route add default gw 172.15.1.254 [root@localhost ~]# yum install httpd
安装Apache服务
[root@localhost ~]# yum install httpd [root@localhost ~]# cd /var/www/html/ [root@localhost html]# touch index.html [root@localhost html]# echo "ipvsadm 3" > index.html
验证两Realserver httpd服务配置成功
[root@CentOS ~]# curl -i 172.15.1.2 HTTP/1.1 200 OK Date: Sun, 16 Nov 2014 10:57:09 GMT Server: Apache/2.2.15 (CentOS) Last-Modified: Sun, 16 Nov 2014 10:45:41 GMT ETag: "6154f-a-507f79036a1f3" Accept-Ranges: bytes Content-Length: 10 Connection: close Content-Type: text/html; charset=UTF-8 ipvsadm 2 [root@CentOS ~]# curl -i 172.15.1.3 HTTP/1.1 200 OK Date: Sun, 16 Nov 2014 10:59:43 GMT Server: Apache/2.2.15 (CentOS) Last-Modified: Sat, 15 Nov 2014 12:05:49 GMT ETag: "2735f-a-507e490f7c682" Accept-Ranges: bytes Content-Length: 10 Connection: close Content-Type: text/html; charset=UTF-8 ipvsadm 3
2）Director Server配置
将VirtualIP配置在eth0的别名上
[root@www ~]# ifconfig eth0:0 192.168.1.250/24 [root@www ~]# ifconfig eth2 172.15.1.254/24
打开网络地址转发
[root@www ~]# sysctl -w net.ipv4.ip_forward=1 net.ipv4.ip_forward = 1
3)配置群集服务
安装ipvsadm
[root@www ~]# yum install ipvsadm ipvsadm -A -t 192.168.1.250:80 -s rr 如果不指定调度算法默认是wlc ipvsadm -a -t 192.168.1.250:80 -r 172.15.1.2 -m ipvsadm -a -t 192.168.1.250:80 -r 172.15.1.3 -m
4）验证
[root@www ~]# curl -i 192.168.1.250 HTTP/1.1 200 OK Date: Sun, 16 Nov 2014 11:08:57 GMT Server: Apache/2.2.15 (CentOS) Last-Modified: Sun, 16 Nov 2014 10:45:41 GMT ETag: "6154f-a-507f79036a1f3" Accept-Ranges: bytes Content-Length: 10 Connection: close Content-Type: text/html; charset=UTF-8 ipvsadm 2
5）查看群集状态
[root@www ~]# ipvsadm -L -n --stats 查看统计信息 IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Conns InPkts OutPkts InBytes OutBytes -> RemoteAddress:Port TCP 192.168.1.250:22 3 983 715 71154 57282 -> 172.15.1.2:22 2 611 433 44165 35533 -> 172.15.1.3:22 1 372 282 26989 21749 TCP 192.168.1.250:80 138 624 418 69800 44372 -> 172.15.1.2:80 69 319 215 35834 22456 -> 172.15.1.3:80 69 305 203 33966 21916 [root@www ~]# ipvsadm -L -n --rate 查看访问速率 IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port CPS InPPS OutPPS InBPS OutBPS -> RemoteAddress:Port TCP 192.168.1.250:22 0 0 0 2 1 -> 172.15.1.2:22 0 0 0 2 1 -> 172.15.1.3:22 0 0 0 0 0 TCP 192.168.1.250:80 0 0 0 0 0 -> 172.15.1.2:80 0 0 0 0 0 -> 172.15.1.3:80 0 0 0 0 0
删除群集
[root@www ~]# ipvsadm -D -t 192.168.1.250:22
保存当前配置
[root@www ~]# service ipvsadm save ipvsadm: Saving IPVS table to /etc/sysconfig/ipvsadm: [ OK ] [root@www ~]# cat /etc/sysconfig/ipvsadm -A -t 192.168.1.250:80 -s rr -a -t 192.168.1.250:80 -r 172.15.1.2:80 -m -w 1 -a -t 192.168.1.250:80 -r 172.15.1.3:80 -m -w 1
将当前配置定义到其他位置
[root@www ~]# ipvsadm -S > ./ipvsadm.txt [root@www ~]# cat ./ipvsadm.txt -A -t 192.168.1.250:ssh -s wlc -a -t 192.168.1.250:ssh -r 172-15-1-2.lightspeed.stlsmo.sbcglobal.net:ssh -m -w 1 -a -t 192.168.1.250:ssh -r 172-15-1-3.lightspeed.stlsmo.sbcglobal.net:ssh -m -w 1 -A -t 192.168.1.250:http -s rr -a -t 192.168.1.250:http -r 172-15-1-2.lightspeed.stlsmo.sbcglobal.net:http -m -w 1 -a -t 192.168.1.250:http -r 172-15-1-3.lightspeed.stlsmo.sbcglobal.net:http -m -w 1
清除当前所有规则
[root@www ~]# ipvsadm -C [root@www ~]# ipvsadm -L -n IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn
恢复规则
[root@www ~]# ipvsadm -R < ./ipvsadm.txt [root@www ~]# ipvsadm -L -n IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.1.250:22 wlc -> 172.15.1.2:22 Masq 1 1 0 -> 172.15.1.3:22 Masq 1 2 0 TCP 192.168.1.250:80 rr -> 172.15.1.2:80 Masq 1 0 0 -> 172.15.1.3:80 Masq 1 0 0
修改调度算法
[root@www ~]# ipvsadm -E -t 192.168.1.250:80 -s rr
NAT模型的LVS有很大的局限性所以企业里面应该会用DR模型。