RocketMQ——单主部署、一主一从部署、双主双从部署

一.RocketMQ单机部署

 

Hosts添加信息

我们首先进入/etc/hosts来添加信息

vim /etc/hosts

添加信息如下：

 

上传解压安装包

通过XFTP工具将apache-rocketmq.tar.gz传到/usr/local/software

然后添加/usr/local/apache-rocketmq目录，再将apache-rocketmq.tar.gz解压到此目录下

[root@bogon apache-rocketmq]#  mkdir /usr/local/apache-rocketmq && tar -zxvf apache-rocketmq.tar.gz -C /usr/local/apache-rocketmq

再建立一个软连接

[root@bogon local]# ln -s apache-rocketmq rocketmq

 

创建存储路径

[root@bogon local]# mkdir /usr/local/rocketmq/store
[root@bogon local]# mkdir /usr/local/rocketmq/store/commitlog
[root@bogon local]# mkdir /usr/local/rocketmq/store/consumequeue
[root@bogon local]# mkdir /usr/local/rocketmq/store/index

 

更改RocketMQ配置文件

vim /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties

broker-a.properties（主启动文件）更改成如下：

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker 名字，注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master， >0 表示 Slave
brokerId=0
#nameServer 地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876
#在发送消息时，自动创建服务器不存在的 topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建 Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点，默认凌晨 4 点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog 每个文件的大小默认 1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue 每个文件默认存 30W 条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制 Master
#- SYNC_MASTER 同步双写 Master
#- SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

 

修改日志配置文件

我们去到 usr/local目录下

[root@rocketmq-nameserver1 local]# mkdir -p /usr/local/rocketmq/logs
[root@rocketmq-nameserver1 local]# cd /usr/local/rocketmq/conf && sed -i 's#${user.home}#/usr/local/rocketmq#g' *.xml

 

修改启动脚本的参数

[root@rocketmq-nameserver1 bin]# vim /usr/local/rocketmq/bin/runbroker.sh
[root@rocketmq-nameserver1 bin]# vim /usr/local/rocketmq/bin/runserver.sh

将两个文件里面的内存配置都改为1G

 

启动RocketMQ

启动顺序是先启动NameServer，再启动BrokerServer

首先我们进入/usr/local/rocketmq/bin目录下输入下面命令启动NameServer

[root@rocketmq-nameserver1 bin]# nohup sh mqnamesrv &

然后输入下面命令启动BrokerServer

[root@rocketmq-nameserver1 bin]# nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties >/dev/null 2>&1 &

再输入jps，可以看到BrokerServer启动了

 

关闭RocketMQ

如果我们要关闭服务的话先关BrokerServer，再关闭NamesrvStartup，进入/usr/local/rocketmq/bin目录下输入下面命令：

# sh mqshutdown broker
# sh mqshutdown namesrv

 

二.单主从模式集群环境构建

我们现在要新增一个Slave节点，我用的是阿里云虚拟机，然后我们先去本地虚拟机把阿里云的节点添加到etc/hosts文件中（大家可能会发现刚刚配置的本地虚拟机ip和下面图片上的不一样了，这是因为上面配置我是在学校配置的，而下面这个是在家里，网络不同，所以IP地址也相应改变了）

同样的，我们在阿里云虚拟机中进入/etc/hosts来添加上述信息，

阿里云slave节点的配置和上面Master配置一模一样，只是在RocketMQ配置文件这一步时有所不同，我们应该配置broker-a-s.properties（从启动文件），配置内容基本和上面一样，只有下面几项略微不同

#0 表示 Master， >0 表示 Slave
brokerId=1
#nameServer 地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
brokerIP1=120.77.211.142
#- ASYNC_MASTER 异步复制 Master
#- SYNC_MASTER 同步双写 Master
#- SLAVE
brokerRole=SLAVE

brokerIP1=120.77.211.142 这个是由于阿里云线上环境有多个网卡，默认情况下MQ很可能走的是内网的IP（因内网网卡排在外网网卡前面）所以要添加这条，本机虚拟机就不需要了。

当然，本地虚拟机的broker-a.properties（主启动文件）文件配置也需要将更改如下：

#nameServer 地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876

最后用broker-a.properties启动本地虚拟机的节点，使用broker-a-s.properties启动阿里云虚拟机的节点，然后通过控制台来看结果：

说明成功啦

 

 

三.  双主双从集群环境构建

现在我们来讨论双主双从，两台机器分别部署Broker-Master&NameServer，两台机器分别部署Broker-Slave&NameServe

上图图中，把NameServer单独提出来了，变成一个共有的服务组，但有时候为了节省服务器，我们可以把NameServer与BrokerMater和BrokerSlave部署到同一个节点就。比如两台机器部署master，两台机器部署slave，然后每台机器上都有一个NameServer，这也是我们的部署方案。

我们首先需要四个节点：

yangbishang与mamba1是一对主从节点，mamba与mamba3是一对主从节点，每个节点有一个NameServer。

多主多从模式分为两种方式，第一种为异步复制，第二种为同步双写

我们为了可靠性，选择双写双从，如果想提高性能，可以在后面的刷盘策略上下功夫。关于双写双从的配置我们后面讲。

四个节点的配置和上面一样，只有下面两个操作略有不同

第一个是etc/hosts文件配置。如下

接下来我们再改同步双写的配置文件

broker-a.properties、 broker-b.properties 配置如下：

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker 名字，注意此处不同的配置文件填写的不一样
brokerName=broker-a|broker-b
#0 表示 Master， >0 表示 Slave
brokerId=0
#nameServer 地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876;rocketmqnameserver3:9876;rocketmq-nameserver4:9876
#在发送消息时，自动创建服务器不存在的 topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建 Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点，默认凌晨 4 点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog 每个文件的大小默认 1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue 每个文件默认存 30W 条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制 Master
#- SYNC_MASTER 同步双写 Master
#- SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

broker-a-s.properties、 broker-b-s.properties 配置如下：
 

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker 名字，注意此处不同的配置文件填写的不一样，与 Master 通过 brokerName 来配对
brokerName=broker-a|broker-b
#0 表示 Master， >0 表示 Slave
brokerId=1
#nameServer 地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876;rocketmqnameserver3:9876;rocketmq-nameserver4:9876
#在发送消息时，自动创建服务器不存在的 topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建 Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点，默认凌晨 4 点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog 每个文件的大小默认 1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue 每个文件默认存 30W 条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制 Master
#- SYNC_MASTER 同步双写 Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128