部署LVS-DR + keepalived 高可用群集

• LVS集群采用IP负载均衡技术和基于内容请求分发技术。调度器具有很好的吞吐率，将请求均衡地转移到不同的服务器上执行，且调度器自动屏蔽掉服务器的故障，从而将一组服务器构成一个高性能的、高可用的虚拟服务器。整个服务器集群的结构对客户是透明的，而且无需修改客户端和服务器端的程序。为此，在设计时需要考虑系统的透明性、可伸缩性、高可用性和易管理性。
• 直接路由(DirectRouting)；简称DR模式，采用半开放式的网络结构，与TUN模式的结构类似，但各节点并不是分散在各地，而是与调度器位于同一个物理网络。负载调度器与各节点服务器通过本地网络连接，不需要建立专用的IP隧道。

• Keepalived的作用是检测服务器的状态，如果有一台web服务器宕机，或工作出现故障，Keepalived将检测到，并将有故障的服务器从系统中剔除，同时使用其他服务器代替该服务器的工作，当服务器工作正常后Keepalived自动将服务器加入到服务器群中，这些工作全部自动完成，不需要人工干涉，需要人工做的只是修复故障的服务器。

• 实验需求

  

服务器主机	IP： （ VIP：192.168.200.100）	需要安装配置
NFS共享服务器	192.168.100.100	NFS共享存储
LVS主调度器	192.168.200.103	keepalived 、ipvsadm
LVS从调度器	192.168.200.104	keepalived 、ipvsadm
节点服务器1	192.168.200.101 /192.168.100.101	httpd 、NFS
节点服务器2	192.168.200.102 /192.168.100.102	httpd 、NFS
windows客户机	192.168.200.200	测试专用

• LVS调度服务器

• 主从调度服务器配置基本相同（不同之处已经标注）

  # yum install keepalived ipvsadm -y

• 调整proc响应参数

  # vi /etc/sysctl.conf     
      net.ipv4.ip_forward=1
      net.ipv4.conf.all.send_redirects = 0
      net.ipv4.conf.default.send_redirects = 0
      net.ipv4.conf.ens33.send_redirects = 0
      //proc响应关闭重定向功能//
      # sysctl -p    //立即生效

• 配置虚拟VIP

  # cd /etc/sysconfig/network-scripts
  # cp ifcfg-ens33 ifcfg-ens33:0
  # vim  ifcfg-ens33:0
      DEVICE=ens33:0
      ONBOOT=yes
      IPADDR=192.168.200.100
      NETMASK=255.255.255.255
  
  # ifup ens33:0     //启用虚拟IP

• 配置负载分配策略

• 编写脚本方便管理

      # cd /etc/init.d/
      # vi dr.sh
          #!/bin/bash
          GW=192.168.200.1
          VIP=192.168.200.100
          RIP1=192.168.200.101
          RIP2=192.168.200.102
          case "$1" in
          start)
              /sbin/ipvsadm --save > /etc/sysconfig/ipvsadm
              systemctl start ipvsadm
              /sbin/ifconfig ens33:0 $VIP broadcast $VIP netmask 255.255.255.255 broadcast $VIP up
              /sbin/route add -host $VIP dev ens33:0
              /sbin/ipvsadm -A -t $VIP:80 -s rr
              /sbin/ipvsadm -a -t $VIP:80 -r $RIP1:80 -g
              /sbin/ipvsadm -a -t $VIP:80 -r $RIP2:80 -g
              echo "ipvsadm starting --------------------[ok]"
              ;;
              stop)
              /sbin/ipvsadm -C
              systemctl stop ipvsadm
              ifconfig ens33:0 down
              route del $VIP
              echo "ipvsamd stoped----------------------[ok]"
               ;;
              status)
              if [ ! -e /var/lock/subsys/ipvsadm ];then
              echo "ipvsadm stoped---------------"
              exit 1
                              else
                              echo "ipvsamd Runing ---------[ok]"
              fi
              ;;
              *)
              echo "Usage: $0 {start|stop|status}"
              exit 1
              esac
              exit 0
  
      # chmod +x dr.sh
      # service dr.sh start

• keepalived部署

  # vim /etc/keepalived/keepalived.conf
      global_defs {
  ...
  smtp_server 127.0.0.1           #指向本地
  router_id LVS_01   #指定名称,备份服务器不同名称
  ...             
  }
  vrrp_instance VI_1 {
  state MASTER             #备份服务器是BACKUP
  interface ens33            #承载VIP的物理接口ens33
  virtual_router_id 10     # 组号   备份服务器相同
  ...
  auth_pass abc123         #验证密码  备份服务器相同
  priority 100              #优先级  备份小于主
  ...
  virtual_ipaddress {
  192.168.200.100          //指定VIP地址
      }
  ...
  virtual_server 192.168.200.100 80 {
      lb_kind DR            //指定DR模式
  ...
  real_server 192.168.200.101 80 {        #web节点地址端口
  weight 1                         #节点的权重
  TCP_CHECK {               #健康检查方式
      connect_port 80         #添加端口
      connect_timeout 3    #连接超时
      nb_get_retry 3           #重试次数
      delay_before_retry 3   #重试间隔（秒）
  }   
      }   
      real_server 192.168.200.102 80 {
  weight 1
  TCP_CHECK {
      connect_port 80              #添加端口
      connect_timeout 3          
      nb_get_retry 3
      delay_before_retry 3
  }   
      }    
  }
  # systemctl start keepalived 
  # ip addr show dev ens33:0         #查看虚拟网卡
  # systemctl stop firewalld.service   #关防火墙
  # setenforce 0

• 配置NFS共享服务器

• 考虑到数据的安全性，共享存储设备会放在内部的专用网络中

  # systemctl stop firewalld.service   //关防火墙
  # setenforce 0
  # yum install nfs-utils rpcbind -y   //安装NFS服务
  # systemctl start rpcbind.service
  # systemctl start nfs.service  
  # cd /opt | mkdir benet accp  //创建共享目录
  （在实际工作中 还是要共享挂载磁盘阵列raid的目录）
  # vi /etc/exports
      /usr/share *(ro,sync)
      /opt/benet 192.168.100.0/24(rw,sync)            
      /opt/accp 192.168.100.0/24(rw,sync) 
  # exportfs -rv    //发布共享

• 节点服务器配置
• 两个节点服务器配置基本相同（不同之处已经标注）
• 因为后面要做虚拟VIP 所以要挂载需要添加双网卡用来挂载NFS
• 节点1服务器添加一个网卡 IP 设为192.168.100.101/24

• 节点2服务器添加一个网卡 IP 设为192.168.100.102/24

  # yum install nfs-utils rpcbind -y   //安装NFS服务
  # mount.nfs 192.168.100.100:/opt/benet /var/www/html  //节点1挂载NFS
  # mount.nfs 192.168.100.100:/opt/accp /var/www/html  //节点2挂载NFS
  # yum install -y httpd   #安装httpd服务
  # systemctl start httpd.service      #启动httpd服务
  # systemctl stop firewalld.service    #关防火墙
  # setenforce 0

• 建立一个测试页面

• 两个节点服务器测试页面要不同

  # echo "this is 7.1 web" > /var/www/html/index.html    #节点服务器1
  # echo "this is 7.2 web" > /var/www/html/index.html    #节点服务器2 （方便查看测试结果）

• 配置虚拟VIP

• 作用：仅发送web响应数据包的源地址

  # cd /etc/sysconfig/network-scripts
  # cp ifcfg-lo ifcfg-lo:0
  # vim ifcfg-lo:0
      DEVICE=lo:0
      IPADDR=192.168.200.100
      NETMASK=255.255.255.255
      ONBOOT=yes

• 编写服务脚本方便管理
• 添加VIP本地访问路由

• 调整proc响应

      # cd /etc/init.d/
      # vim web.sh
              #!/bin/bash
              VIP=192.168.200.100
              case "$1" in
              start)
          ifconfig lo:0 $VIP netmask 255.255.255.255 broadcast $VIP
          /sbin/route add -host $VIP dev lo:0
          echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
          echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
          echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
          echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
          sysctl -p >/dev/null 2>&1
          echo "RealServer Start OK "
          ;;
              stop)
          ifconfig lo:0 down
          route del $VIP /dev/null 2>&1
          echo "0" >/proc/sys/net/ipv4/conf/lo/arp_ignore
          echo "0" >/proc/sys/net/ipv4/conf/lo/arp_announce
          echo "0" >/proc/sys/net/ipv4/conf/all/arp_ignore
          echo "0" >/proc/sys/net/ipv4/conf/all/arp_announce
          echo "RealServer Stopd"
          ;;
              *)
          echo "Usage: $0 {start|stop}"
          exit 1
              esac
              exit 0
  
      # chmod +x web.sh
      # service web.sh start
      # ifup lo:0        //启用虚拟VIP
      # firefox "http://127.0.0.1/" &     //火狐查看测试页
      # service web.sh stop
      # service web.sh start    //(建议重启服务)

• 测试

  在windows7  浏览器输入 虚拟VIP 192.168.200.100 
  （多刷新几次可以看到节点1和节点2的测试页面为成功）