rabbitmq+haproxy+keepalive实现负载均衡(高可用)

原文地址，转载请注明出处： http://blog.csdn.net/qq_34021712/article/details/72634167     ©王赛超

1.普通搭建集群：《rabbitmq集群搭建(多机)》《rabbitmq单机多实例集群搭建》

2.将普通集群通过配置策略变为镜像集群：《rabbitmq配置镜像模式 》

3.Haproxy负载代理
          1)在192.168.1.101和192.168.1.102节点上安装haproxy

yum install haproxy

           2)修改/etc/haproxy/haproxy.cfg为以下内容,全覆盖,修改对应的端口号

#---------------------------------------------------------------------
# Global settings
#---------------------------------------------------------------------
global
log 127.0.0.1 local2
chroot /var/lib/haproxy              # 改变当前工作目录
pidfile /var/run/haproxy.pid         # haproxy的pid存放路径,启动进程的用户必须有权限访问此文件
maxconn 4000                         # 最大连接数，默认4000
user haproxy                         # 默认用户
group haproxy                        # 默认组
daemon                               # 创建1个进程进入deamon模式运行。此参数要求将运行模式设置为daemon
stats socket /var/lib/haproxy/stats  # 创建监控所用的套接字目录
#---------------------------------------------------------------------
# defaults settings
#---------------------------------------------------------------------
# 注意：因为要使用tcp的负载，屏蔽掉与http相关的默认配置
defaults
mode http                            # 默认的模式mode { tcp|http|health }，tcp是4层，http是7层，health只会返回OK
log global
# option httplog                     # 采用http日志格式
option dontlognull                   # 启用该项，日志中将不会记录空连接。所谓空连接就是在上游的负载均衡器
# option http-server-close           # 每次请求完毕后主动关闭http通道
# option forwardfor except 127.0.0.0/8  # 如果后端服务器需要获得客户端真实ip需要配置的参数，可以从Http Header中获得客户端ip
option redispatch                    # serverId对应的服务器挂掉后,强制定向到其他健康的服务器
retries 3                            # 3次连接失败就认为服务不可用，也可以通过后面设置
# timeout http-request 10s           
timeout queue 1m
timeout connect 10s                  # 连接超时时间
timeout client 1m                    # 客户端连接超时时间
timeout server 1m                    # 服务器端连接超时时间
# timeout http-keep-alive 10s
timeout check 10s                    
maxconn 3000                         # 最大连接数
###################### 打开haproxy的监测界面###############################
listen status
bind 0.0.0.0:9188
mode http
stats enable
stats refresh 30s
stats uri /stats                     #设置haproxy监控地址为http://localhost:9188/stats
stats auth admin:123456              #添加用户名密码认证
stats realm (Haproxy\ statistic)
stats admin if TRUE
######################监听rabbitmq的web操作页面############################
listen rabbitmq_admin 
    bind 0.0.0.0:15670
    server rabbit1 192.168.1.102:15672
    server rabbit2 192.168.1.101:15672
    server rabbit3 192.168.1.101:15673
#######################监听rabbimq_cluster #################################
listen rabbitmq_cluster
bind 0.0.0.0:5670
mode tcp
balance roundrobin                   #负载均衡算法（#banlance roundrobin 轮询，balance source 保存session值，支持static-rr，leastconn，first，uri等参数）
server rabbit1 192.168.1.102:5672 check inter 5000 rise 2 fall 2  #check inter 2000 是检测心跳频率
server rabbit2 192.168.1.101:5672 check inter 5000 rise 2 fall 2  #rise 2是2次正确认为服务器可用
server rabbit3 192.168.1.101:5673 check inter 5000 rise 2 fall 2  #fall 2是2次失败认为服务器不可用

           3)启动haproxy

haproxy -f /etc/haproxy/haproxy.cfg
service haproxy restart#重启
service haproxy stop#停止

           4)两个ip分别访问以下地址,出现以下页面证明没错


           5)使用代码测试队列是否可用
Producer类

package com.rabbitmq.test.T_helloworld;


import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
import com.rabbitmq.test.util.ConnectionUtil;


/**
 * helloworld
 * @author lenovo
 *
 */
public class Producer {


	private final static String QUEUE_NAME = "test_queue";


    public static void main(String[] argv) throws Exception {
    	//定义一个链接工厂
		ConnectionFactory factory=new ConnectionFactory();			
		//设置服务地址,IP,端口,账号密码信息
		factory.setHost("192.168.1.101");
		factory.setPort(5670);
		factory.setUsername("admin");
		factory.setPassword("admin");
		//vhost：虚拟主机，一个broker里可以开设多个vhost，用作不同用户的权限分离。
		//factory.setVirtualHost("/testrabbit");
		// 获取到连接以及mq通道
		Connection connection = factory.newConnection();
        
        //Connection connection = ConnectionUtil.getConnection();
        // 从连接中创建通道
        Channel channel = connection.createChannel();


        /*
         * 声明（创建）队列
         * 参数1：队列名称
         * 参数2：为true时server重启队列不会消失
         * 参数3：队列是否是独占的，如果为true只能被一个connection使用，其他连接建立时会抛出异常
         * 参数4：队列不再使用时是否自动删除（没有连接，并且没有未处理的消息)
         * 参数5：建立队列时的其他参数
         */
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);


        // 消息内容
        String message = "Hello World!";
        /*
         * 向server发布一条消息
         * 参数1：exchange名字，若为空则使用默认的exchange
         * 参数2：routing key
         * 参数3：其他的属性
         * 参数4：消息体
         * RabbitMQ默认有一个exchange，叫default exchange，它用一个空字符串表示，它是direct exchange类型，
         * 任何发往这个exchange的消息都会被路由到routing key的名字对应的队列上，如果没有对应的队列，则消息会被丢弃
         */
        channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
        System.out.println(" [生产者] Sent '" + message + "'");


        //关闭通道和连接
        channel.close();
        connection.close();
    }
}

Consumer类

package com.rabbitmq.test.T_helloworld;


import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
import com.rabbitmq.client.QueueingConsumer;
import com.rabbitmq.test.util.ConnectionUtil;


public class Consumer {


	private final static String QUEUE_NAME = "test_queue";


    public static void main(String[] argv) throws Exception {


    	//定义一个链接工厂
		ConnectionFactory factory=new ConnectionFactory();			
		//设置服务地址,IP,端口,账号密码信息
		factory.setHost("192.168.1.102");
		factory.setPort(5670);
		factory.setUsername("admin");
		factory.setPassword("admin");
		//vhost：虚拟主机，一个broker里可以开设多个vhost，用作不同用户的权限分离。
		//factory.setVirtualHost("/testrabbit");
		// 获取到连接以及mq通道
		Connection connection = factory.newConnection();
        // 从连接中创建通道
        Channel channel = connection.createChannel();


        // 声明队列(如果你已经明确的知道有这个队列,那么下面这句代码可以注释掉,如果不注释掉的话,也可以理解为消费者必须监听一个队列,如果没有就创建一个)
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);


        // 定义队列的消费者
        QueueingConsumer consumer = new QueueingConsumer(channel);
       /*
         * 监听队列
         * 参数1:队列名称
         * 参数2：是否发送ack包，不发送ack消息会持续在服务端保存，直到收到ack。  可以通过channel.basicAck手动回复ack
         * 参数3：消费者
         */ 
        channel.basicConsume(QUEUE_NAME, true, consumer);


        // 获取消息
        while (true) {
            QueueingConsumer.Delivery delivery = consumer.nextDelivery();
            String message = new String(delivery.getBody());
            System.out.println(" [消费者] Received '" + message + "'");
        }
    }
}

4.安装配置keepalived
           1)安装keepalived

yum install keepalived
chkconfig --add keepalived#设置开机启动,可以不用设置

          2)修改/etc/keepalived/keepalived.conf配置文件，主机和备机稍有不同,已经在配置文件中声明,请详细阅读！

! Configuration File for keepalived
# 全局配置，配置收件人
global_defs {
   notification_email {               ##通知机制，收件人
     [email protected]
   }
   notification_email_from [email protected] ####发件人
   smtp_server 192.168.1.102                     ##发件服务器
   smtp_connect_timeout 30                       ##服务器连接超时时间
   router_id LVS_DEVEL                           ##路由器标志
}
# 集群资源监控，组合track_script进行
vrrp_script check_haproxy {
script "killall -0 haproxy"
interval 2
}
vrrp_instance HAPROXY_HA {
# 设置当前主机为主节点，如果是备用节点，则设置为BACKUP
# 备用节点时，设置为：
# state BACKUP
state MASTER
# 指定HA监测网络接口，可以用ifconfig查看来决定设置哪一个
interface eth1
# 虚拟路由标识，同一个VRRP实例要使用同一个标识，主备机
virtual_router_id 80
# 因为当前环境中VRRP组播有问题，改为使用单播发送VRRP报文
# 这个地方需要关注，之前未做此设置，结果主备节点互相不能发现，因此主备节点都升级成了MASTER，并且绑定了VIP
# 主节点时，内容为：
unicast_src_ip 192.168.1.101
 unicast_peer {
 192.168.1.102
}
# 备节点时，内容为：
#unicast_src_ip 192.168.1.102
#unicast_peer {
#192.168.1.101
#}
# 设置优先级，确保主节点的优先级高过备用节点
# 主节点时，设置为：
priority 100
# 备节点时，设置为：
#priority 80
# 用于设定主备节点间同步检查时间间隔
advert_int 2
# 设置高可用集群中不抢占功能，在主机down后，从机接管，当主机重新恢复后，设置此功能，备机将继续提供服务，从而避免因切换导致的隐患
nopreempt
# 设置主备节点间的通信验证类型及密码，同一个VRRP实例中需一致
authentication {
auth_type PASS
auth_pass 1234
}
#下面这些脚本都是写入日志,需要的话可以打开,自己写一个shell
# 当keepalived切换状态到MASTER时，执行脚本
#notify_master "/etc/keepalived/master.sh"
# 当keepalived切换状态到BACKUP时，执行脚本
#notify_backup "/etc/keepalived/backup.sh"
# 当keepalived切换状态到FAULT时，执行脚本
#notify_fault "/etc/keepalived/fault.sh"
# 当keepalived切换状态到STOP时，执行脚本
#notify_fault "/etc/keepalived/stop.sh"
# 集群资源监控，组合vrrp_script进行
track_script {
check_haproxy
}
# 设置虚拟IP地址，当keepalived状态切换为MASTER时，此IP会自动添加到系统中
# 当状态切换到BACKUP时，此IP会自动从系统中删除
# 可以通过命令ip add查看切换后的状态
virtual_ipaddress {
192.168.1.106  #虚拟ip配置完之后就用它访问
}
}

           3)启动服务

因为是为了实现haproxy的高可用，启动时需要顺序启动：
(1) 启动两个节点的haproxy：
haproxy -f /etc/haproxy/haproxy.cfg
(2) 启动keeepalived：先启动master节点，后启动BACKUP节点
keepalived start

          4)测试(192.168.1.106是在keepalived中配置的虚拟ip)



           5)模拟主节点故障测试