Lvs之NAT、DR、TUN三种模式的应用配置案例[转]

from:http://www.sxt.cn/u/324/blog/3188

LVS

一、LVS简介

LVS是Linux Virtual Server的简写，意即Linux虚拟服务器，是一个虚拟服务器集群系统。本项目在1998年5月由章文嵩博士成立，是中国国内最早出现的自由软件之一。

二、LVS的分类

LVS-NAT：地址转换

LVS-DR：直接路由

LVS-TUN：隧道

三、ipvsadm用法

其实LVS的本身跟iptables很相似,而且连命令的使用格式都很相似,其实LVS是根据iptables的框架开发的,那么LVS的本身分成了两个部分,第一部分是工作在内核空间的一个IPVS的模块,其实LVS的功能都是IPVS模块实现的,,第二部分是工作在用户空间的一个用来定义集群服务的一个工具ipvsadm, 这个工具的主要作用是将管理员定义的集群服务列表传送给工作在内核空间中的IPVS模块,下面来简单的介绍下ipvsadm命令的用法

ipvsadm组件定义规则的格式：

1.定义集群服务格式：

(1).添加集群服务：

ipvsadm -A|E -t|u|f service-address [-s scheduler]

[-p [timeout]] [-M netmask]

-A：表示添加一个新的集群服务

-E：编辑一个集群服务

-t：表示tcp协议

-u：表示udp协议

-f：表示firewall-Mark,防火墙标记

service-address：集群服务的IP地址，即VIP

-s 指定调度算法

-p 持久连接时长，如 #ipvsadm -Lcn ，查看持久连接状态

-M 定义掩码

ipvsadm -D -t|u|f service-address 删除一个集群服务

ipvsadm -C 清空所有的规则

ipvsadm -R 重新载入规则

ipvsadm -S [-n] 保存规则

2.向集群服务添加RealServer规则：

(1).添加RealServer规则

ipvsadm -a|e -t|u|f service-address -r server-address

[-g|i|m] [-w weight]

-a 添加一个新的realserver规则

-e 编辑realserver规则

-t tcp协议

-u udp协议

-f firewall-Mark，防火墙标记

service-address realserver的IP地址

-g 表示定义为LVS-DR模型

-i 表示定义为LVS-TUN模型

-m 表示定义为LVS-NAT模型

-w 定义权重，后面跟具体的权值

ipvsadm -d -t|u|f service-address -r server-address --删除一个realserver

ipvsadm -L|l [options]                                       --查看定义的规则

如： #ipvsadm -L -n

ipvsadm -Z [-t|u|f service-address] --清空计数器

四、lvs的10种调度算法

可以分为两大类

LVS Scheduling Method LVS的调度方法：

1.Fixed Scheduling Method 静态调服方法

(1).RR 轮询

(2).WRR 加权轮询

(3).DH 目标地址 hash

(4).SH 源地址 hash

2.Dynamic Scheduling Method 动态调服方法

(1).LC 最少连接

(2).WLC 加权最少连接

(3).SED 最少期望延迟

(4).NQ 从不排队调度方法

(5).LBLC 基于本地的最少连接

(6).LBLCR 带复制的基于本地的最少连接

LVS-NAT

一、架构平台环境

系统平台：CentOS 6.4 64bit 内核：2.6.32

相关服务和专有名词定义

Director：负责调度集群的主机；也简称调度器、分发器

VIP：Virtual IP 向外提供服务的IP；通常此IP绑定域名

DIP：与内部主机RIP通信的IP，在Director主机上

RIP：RealServer IP；内部真正提供服务的主机

CIP：客户端IP

二、LVS-NAT架构

三、LVS-NAT模型实现负载均衡的工作方式

NAT模型其实就是通过网络地址转换来实现负载均衡的,它的工作方式几乎跟DNAT一模一样的,目前的DNAT只能转发到一个目标地址,早期的DNAT是可以将请求转发到多个目标的,在LVS出现之后就将此功能从DNAT种去掉了,下面来说说NAT模型的工作方式或者说NAT模型是怎么实现负载均衡的,根据上图,
1.用户请求VIP(也可以说是CIP请求VIP)
2,Director Server 收到用户的请求后,发现源地址为CIP请求的目标地址为VIP,那么Director Server会认为用户请求的是一个集群服务,那么Director Server 会根据此前设定好的调度算法将用户请求负载给某台Real Server ；假如说此时Director Server 根据调度算法的结果会将请求分摊到RealServer1上去,那么Director Server 会将用户的请求报文中的目标地址,从原来的VIP改为RealServer1的IP,然后再转发给RealServer1
3,此时RealServer1收到一个源地址为CIP目标地址为自己的请求,那么RealServer1处理好请求后会将一个源地址为自己目标地址为CIP的数据包通过Director Server 发出去,
4.当Driector Server收到一个源地址为RealServer1 的IP 目标地址为CIP的数据包,此时Driector Server 会将源地址修改为VIP,然后再将数据包发送给用户,

四、LVS-NAT的性能瓶颈

在LVS/NAT的集群系统中，请求和响应的数据报文都需要通过负载调度器(Director)，当真实服务器(RealServer)的数目在10台和20台之间时，负载调度器(Director)将成为整个集群系统的新瓶颈。大多数Internet服务都有这样的特点：请求报文较短而响应报文往往包含大量的数据。如果能将请求和响应分开处理，即在负载调度器(Director)中只负责调度请求而响应直接(RealServer)返回给客户，将极大地提高整个集群系统的吞吐量。

五、部署环境

1、准备工作

(1)关闭所有节点的iptables和selinux服务

setenforce 0

service iptables stop && chkconfig iptables off

(2)HA中所有节点尽可能保证时间是一致的，方法是时间同步+任务计划同步时间；

注意：对于LB来说时间的影响不是很大，但是对于HP来说各节点之间的时间偏差不应该超出一秒钟：

ntpdate -u asia.pool.ntp.org

2、拓扑图地址规划

LVS Director机器：

公网地址：vip

主机名：lvs

vip地址： 192.168.0.200

子网掩码：255.255.255.0

网关： 192.168.0.1

网络连接方式：Bridge

私网地址：dip

主机名：lvs

dip地址： 172.16.100.1

子网掩码：255.255.0.0

网关：不指定网关

网络连接方式：Host-Only

RealServer机器：

私网地址：rip1

主机名：web1

rip1地址：172.16.100.10

子网掩码：255.255.0.0

网关： 172.16.100.1

网络连接方式：Host-Only

私网地址：rip2

主机名：web2

rip1地址：172.16.100.11

子网掩码：255.255.0.0

网关： 172.16.100.1

网络连接方式：Host-Only

3、在RealServer上部署httpd服务并测试

安装httpd服务，创建httpd测试页面，启动httpd服务

[root@web1 ~] # yum -y install httpd

[root@web1 ~] # service httpd start

[root@web1 ~] # echo "RS1-web1 Allentuns.com" > /var/www/html/index.html

[root@web2 ~] # yum -y install httpd

[root@web2 ~] # echo "RS2-web2 Allentuns.com" > /var/www/html/index.html

[root@web2 ~] # service httpd start

测试httpd服务是否OK！

[root@web1 ~] # curl http://localhost

RS1-web1 Allentuns.com

[root@web1 ~] # curl http://172.16.100.11

RS2-web2 Allentuns.com

4、在Director上部署ipvs服务并测试

(1)确定本机ip_vs模块是否加载，也就是是否支持lvs，2.4.2后都支持了；然后安装ipvsadm 用户操作命令

[root@LVS ~] # grep -i "ip_vs" /boot/config-2.6.32-358.el6.x86_64

CONFIG_IP_VS=m #将ipvs定义成模块

CONFIG_IP_VS_IPV6=y

# CONFIG_IP_VS_DEBUG is not set

CONFIG_IP_VS_TAB_BITS=12

CONFIG_IP_VS_PROTO_TCP=y #IPVS支持哪些集群服务

CONFIG_IP_VS_PROTO_UDP=y

CONFIG_IP_VS_PROTO_AH_ESP=y

CONFIG_IP_VS_PROTO_ESP=y

CONFIG_IP_VS_PROTO_AH=y

CONFIG_IP_VS_PROTO_SCTP=y

CONFIG_IP_VS_RR=m #ipvs支持的十种调度算法

CONFIG_IP_VS_WRR=m

CONFIG_IP_VS_LC=m

CONFIG_IP_VS_WLC=m

CONFIG_IP_VS_LBLC=m

CONFIG_IP_VS_LBLCR=m

CONFIG_IP_VS_DH=m

CONFIG_IP_VS_SH=m

CONFIG_IP_VS_SED=m

CONFIG_IP_VS_NQ=m

CONFIG_IP_VS_FTP=m #支持代理ftp协议的

(2)安装ipvsadm

[root@LVS ~] # yum -y install ipvsadm

(3)添加集群服务

[root@LVS ~] # ipvsadm -A -t 192.168.0.200:80 -s rr #定义一个集群服务

[root@LVS ~] # ipvsadm -a -t 192.168.0.200:80 -r 172.16.100.10 -m #添加RealServer并指派调度算法为NAT

[root@LVS ~] # ipvsadm -a -t 192.168.0.200:80 -r 172.16.100.11 -m #添加RealServer并指派调度算法为NAT

[root@LVS ~]

# ipvsadm -L -n                                     #查看ipvs定义的规则列表

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

-> RemoteAddress:Port Forward Weight ActiveConn InActConn

TCP 192.168.0.200:80 rr

-> 172.16.100.10:80 Masq 1 0 0

-> 172.16.100.11:80 Masq 1 0 0

[root@LVS ~] # cat /proc/sys/net/ipv4/ip_forward #查看Linux是否开启路由转发功能

0

[root@LVS ~] # echo 1 > /proc/sys/net/ipv4/ip_forward #启动Linux的路由转发功能

[root@LVS ~] # cat /proc/sys/net/ipv4/ip_forward

1

(4)测试访问http页面

[root@LVS ~] # curl http://192.168.0.200/index.html

RS2-web2 Allentuns.com #第一次是web2

[root@LVS ~] # curl http://192.168.0.200/index.html

RS1-web1 Allentuns.com #第二次是web1

[root@LVS ~] # curl http://192.168.0.200/index.html

RS2-web2 Allentuns.com #第三次是web1

[root@LVS ~] # curl http://192.168.0.200/index.html

RS1-web1 Allentuns.com #第四次是web2

(5)更改LVS的调度算并压力测试，查看结果

[root@LVS ~] # ipvsadm -E -t 192.168.0.200:80 -s wrr

[root@LVS ~] # ipvsadm -e -t 192.168.0.200:80 -r 172.16.100.10 -m -w 3

[root@LVS ~] # ipvsadm -e -t 192.168.0.200:80 -r 172.16.100.11 -m -w 1

[root@LVS ~] # ipvsadm -L -n

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

-> RemoteAddress:Port Forward Weight ActiveConn InActConn

TCP 192.168.0.200:80 wrr

-> 172.16.100.10:80 Masq 3 0 2

-> 172.16.100.11:80 Masq 1 0 2

[root@LVS ~] # curl http://192.168.0.200/index.html

RS1-web1 Allentuns.com

[root@LVS ~] # curl http://192.168.0.200/index.html

RS1-web1 Allentuns.com

[root@LVS ~] # curl http://192.168.0.200/index.html

RS1-web1 Allentuns.com

[root@LVS ~] # curl http://192.168.0.200/index.html

RS2-web2 Allentuns.com

[root@LVS ~] # curl http://192.168.0.200/index.html

RS1-web1 Allentuns.com

(6)永久保存LVS规则并恢复

第一种方法：

[root@LVS ~] # service ipvsadm save

ipvsadm: Saving IPVS table to /etc/sysconfig/ipvsadm : [确定]

第二种方法：

[root@LVS ~] # ipvsadm -S > /etc/sysconfig/ipvsadm.s1

模拟清空ipvsadm规则来恢复

[root@LVS ~] # ipvsadm -C

[root@LVS ~] # ipvsadm -L -n

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

-> RemoteAddress:Port Forward Weight ActiveConn InActConn

[root@LVS ~] # ipvsadm -R < /etc/sysconfig/ipvsadm.s1

[root@LVS ~] # ipvsadm -L -n

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

-> RemoteAddress:Port Forward Weight ActiveConn InActConn

TCP 192.168.0.200:80 wrr

-> 172.16.100.10:80 Masq 3 0 0

-> 172.16.100.11:80 Masq 1 0 0

六、LVS-NAT服务控制脚本部署在Director上

#!/bin/bash

#

# chkconfig: - 88 12

# description: LVS script for VS/NAT

#

. /etc/rc .d /init .d /functions

#

VIP=192.168.0.200

DIP=172.16.100.1

RIP1=172.16.100.10

RIP2=172.16.100.11

#

case "$1" in

start)

# /sbin/ifconfig eth1:0 $VIP netmask 255.255.255.0 up

# Since this is the Director we must be able to forward packets

echo 1 > /proc/sys/net/ipv4/ip_forward

# Clear all iptables rules.

/sbin/iptables -F

# Reset iptables counters.

/sbin/iptables -Z

# Clear all ipvsadm rules/services.

/sbin/ipvsadm -C

# Add an IP virtual service for VIP 192.168.0.219 port 80

# In this recipe, we will use the round-robin scheduling method.

# In production, however, you should use a weighted, dynamic scheduling method.

/sbin/ipvsadm -A -t $VIP:80 -s rr

# Now direct packets for this VIP to

# the real server IP (RIP) inside the cluster

/sbin/ipvsadm -a -t $VIP:80 -r $RIP1 -m

/sbin/ipvsadm -a -t $VIP:80 -r $RIP2 -m

/bin/touch /var/lock/subsys/ipvsadm .lock

;;

stop)

# Stop forwarding packets

echo 0 > /proc/sys/net/ipv4/ip_forward

# Reset ipvsadm

/sbin/ipvsadm -C

# Bring down the VIP interface

ifconfig eth1:0 down

rm -rf /var/lock/subsys/ipvsadm .lock

;;

status)

[ -e /var/lock/subsys/ipvsadm .lock ] && echo "ipvs is running..." || echo "ipvsadm is stopped..."

;;

*)

echo "Usage: $0 {start|stop}"

;;

esac

七、分享LVS-NAT一键安装脚本

#!/bin/bash

#

# 一键安装lvs-nat脚本，需要注意的是主机名成和ip的变化稍作修改就可以了

HOSTNAME=` hostname `

Director= 'LVS'

VIP= "192.168.0.200"

RIP1= "172.16.100.10"

RIP2= "172.16.100.11"

RealServer1= "web1"

RealServer2= "web2"

Httpd_config= "/etc/httpd/conf/httpd.conf"

#Director Server Install configure ipvsadm

Lvs之NAT、DR、TUN三种模式的应用配置案例[转]

你可能感兴趣的:(Lvs之NAT、DR、TUN三种模式的应用配置案例[转])