扣扣技术分享交流群:1125844267
其实,shovel和上一篇博客中的federation的功能是类似的,都是为了MQ间的消息同步。不同的是,federation需要每个MQ上都配置,它只是个拉取消息的功能,而shovel只需要在一个MQ上配置即可,它是个双向的动作,既能拉取消息,也能推送消息,所以只需要知道一台服务器ip就能实现双向通信,这在某些特定的场景下是特别适合的,比如有一台服务器的ip是不确定的。
一般情况下都是一个MQ的队列和另一个MQ的交换机进行通信,当然这也不是必须的,只是普遍这么使用。通过配置证明,队列与队列、队列与交换机、交换机与交换机都是可以实现通信的,只是需要注意的一个原则是,队列是不保存消息的,交换机是本地保存消息的。比如队列收到了消息,然后直接就转发到配置的下游,本队列中是不保存消息,而交换机除了转发走,还要本地保存,可以本地队列消费。
1、松耦合。shovel可以移动位于不同管理域中的Broker(或者集群)上的消息,这些Broker(或者集群)可以包含不同的用户和虚拟主机,也可以使用不同的RabbitMQ和Erlang版本;
2、支持广域网。shovel插件同样基于AMQP协议在Broker之间进行通信,被设计成可以容忍时断时续的连通情况,并且能够保证消息的可靠性;
3、高度定制。当shovel成功连接后,可以对其进行配置以执行相关的AMQP命令。
(1)yum安装,最简单
(2)rpm安装
systemctl start rabbitmq-server
rabbitmqctl add_user test test
rabbitctl set_user_tags test administrator
rabbitmqctl list_users
rabbitmq-plugins enable rabbitmq_management
rabbitmq-plugins enable rabbitmq_shovel
rabbitmq-plugins enable rabbitmq_shovel_management
shovel有两种配置方式,一种是静态方式,修改rabbitmq.config配置文件,另外一种是动态方式,通过修改动态参数来实现配置,可以用命令,也可以在web管理页面进行配置,我们直接利用web管理页面进行配置。至于第一种配置方式这里不做介绍。
登录web管理页面http://ip:15672,test用户登录,右侧会多出两个菜单
点击shovel management进行配置
Virtual host:虚拟主机;
Name:shovel名称;
Source:源端amqp地址,amqp://用户名:密码@ip:端口/虚拟主机,源端可以选择是队列或者是交换机;
Destination:目标端amqp地址,amqp://用户名:密码@ip:端口/虚拟主机,目标端可以选择是队列或者是交换机;
Prefetch count:一次可能在铲子上传播的未确认消息的最大数量。 如果未设置,则默认为1000。其实就是Shovel 内部缓存的消息条数,Shovel 的内部缓存是源端服务器和目的端服务器之间的中间缓存部分;
Reconnect delay:当源端或者目标端连接失效后,在几秒后重新连接;
Add forwarding headers:添加转发头,在获取信息时会多个特殊的头信息;
Acknowledgement mode:三种消息确认机制
no ack 表示无须任何消息确认行为;on publish 表示 Shovel 会把每条消息发送到目的端之后再向源端发送消息确认;on confirm 表示 Shovel 会使用 publisher confirm 机制,在收到目的端的消息确认之后再向源端发送消息确认。 Shovel ack mode 默认也是on confirm ,并且官方强烈建议使用该值。如果选择使用其他值,整体性能虽然会有略微提升,但是发生各种失效问题的情况时,消息的可靠性得不到保障;
Auto-delete:是否自动删除铲子;
状态如果是running表示配置正确,如果配置有问题,会有错误提示
大概有三种方式:
1、队列与队列间通信(消息直接从队列转发另外一个队列,本队列不保存消息)
MQ1 MQ2
队列1------------------------------------->队列2
队列3<-------------------------------------队列4
绝对不允许(会导致死循环,队列上的消息一直增加):
队列1<------------------------------------>队列2
2、队列与交换机通信
如果是从队列将信息推送到交换机,队列中不保存信息;如果是从交换机拉去信息,交换机保存信息。总的原则就是交换机会保存信息,队列直接转发,本地不保存。
MQ1 MQ2
队列1------------------------------------->交换机2
队列3<-------------------------------------交换机4
绝对不允许(会导致死循环,队列上的消息一直增加):
队列1<------------------------------------>交换机2
3、交换机与交换机通信
只要涉及到交换机,交换机就会保存信息
MQ1 MQ2
交换机1------------------------------------->交换机2
交换机3<-------------------------------------交换机4
绝对不允许(会导致死循环,队列上的消息一直增加):
交换机1<------------------------------------>交换机2