RocketMQ 集群搭建

                                                            RocketMQ  环境搭建

 

下载包并解压

wget http://mirrors.hust.edu.cn/apache/rocketmq/4.2.0/rocketmq-all-4.2.0-bin-release.zip


#加压
unzip  -d /usr/local/rocket  rocketmq-all-4.2.0-bin-release.zip

cd /usr/local/rocket/bin

修改配置文件

rocketmq默认给出了三种建议配置模式
2m-2s-async(主从异步),----本文采用这种
2m-2s-sync(主从同步)
2m-noslave(仅master)

启动节点1 的namesrv

mkdir /usr/local/rocketmq/logs/
nohup sh /usr/local/rocketmq/bin/mqnamesrv >/usr/local/rocketmq/logs/mqnamesrv.log 2>&1 &

启动节点2 的namesrv

mkdir /usr/local/rocketmq/logs/
nohup sh /usr/local/rocketmq/bin/mqnamesrv >/usr/local/rocketmq/logs/mqnamesrv.log 2>&1 &

启动节点1的broker-a的master

对应的配置文件broker-a.properties

brokerClusterName=rocketmq-cluster
#broker名字,名字可重复,为了管理,每个master起一个名字,他的slave同他,eg:Amaster叫broker-a,他的slave也叫broker-a
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer地址,分号分割
namesrvAddr=x.x.x.x:9876;x.x.x.x:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口,
listenPort=10911
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocket/store/broker-a
#commitLog 存储路径
storePathCommitLog=/usr/local/rocket/store/broker-a/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocket/store/broker-a/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocket/store/broker-a/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocket/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
nohup sh /usr/local/rocket/bin/mqbroker -c /usr/local/rocket/conf/2m-2s-async/broker-a.properties > /usr/local/rocket/logs/broker-a.log 2>&1 &


启动节点2的broker-a-s

对应配置 broker-a-s.properties

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,名字可重复,为了管理,每个master起一个名字,他的slave同他,eg:Amaster叫broker-a,他的slave也叫broker-a
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=1
#nameServer地址,分号分割
namesrvAddr=xx.xx.xx.x:9876;x.x.x.x:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口,
listenPort=10921
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocket/store/broker-a
#commitLog 存储路径
storePathCommitLog=/usr/local/rocket/store/broker-a/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocket/store/broker-a/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocket/store/broker-a/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocket/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocket/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
nohup sh /usr/local/rocket/bin/mqbroker -c /usr/local/rocket/conf/2m-2s-async/broker-a-s.properties > /usr/local/rocket/logs/broker-a-s.log 2>&1 &

 

启动节点2的broker-b

broker-b.properties 

brokerClusterName=rocketmq-cluster
#broker名字,名字可重复,为了管理,每个master起一个名字,他的slave同他,eg:Amaster叫broker-a,他的slave也叫broker-a
brokerName=broker-b
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer地址,分号分割
namesrvAddr=x.x.x.x:9876;x.x.x.x:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口,
listenPort=10911
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocket/store/broker-b
#commitLog 存储路径
storePathCommitLog=/usr/local/rocket/store/broker-b/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocket/store/broker-b/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocket/store/broker-b/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocket/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocket/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
nohup sh /usr/local/rocket/bin/mqbroker -c /usr/local/rocket/conf/2m-2s-async/broker-b.properties > /usr/local/rocket/logs/broker-b.log 2>&1 &

 

发现一台机器上启动一个broker 没问题,启动第二个就特别卡,或者启动不了,这个时候就要改JVM 参数了

vi /usr/local/rocket/bin/runbroker.sh

JAVA_OPT="${JAVA_OPT} -server -Xms8g -Xmx8g -Xmn4g" 

修改为
JAVA_OPT="${JAVA_OPT} -server -Xms512m -Xmx512m -Xmn256m" 

 

启动节点1的broker-b-s

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,名字可重复,为了管理,每个master起一个名字,他的slave同他,eg:Amaster叫broker-a,他的slave也叫broker-a
brokerName=broker-b
#0 表示 Master,>0 表示 Slave
brokerId=1
#nameServer地址,分号分割
namesrvAddr=x.x.x.x:9876;x.x.x.x:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口,
listenPort=10921
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocket/store/broker-b-s
#commitLog 存储路径
storePathCommitLog=/usr/local/rocket/store/broker-b-s/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocket/store/broker-b-s/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocket/store/broker-b-s/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocket/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocket/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
nohup sh /usr/local/rocket/bin/mqbroker -c /usr/local/rocket/conf/2m-2s-async/broker-b-s.properties > /usr/local/rocket/logs/broker-b-s.log 2>&1 &

 

[3] 24504
[root@n2 2m-2s-async]# jps
5379 NamesrvStartup
23927 BrokerStartup
5691 QuorumPeerMain
24605 Jps
24511 BrokerStartu

安装Rocket-Console

git clone https://github.com/apache/rocketmq-externals.git
cd rocketmq-externals/rocketmq-console
mvn clean package -Dmaven.test.skip=true

没装mvn 的 
wget https://mirrors.tuna.tsinghua.edu.cn/apache/maven/maven-3/3.5.4/binaries/apache-maven-3.5.4-bin.tar.gz 进行安装

tar -xzvf apache-maven-3.5.4-bin.tar.gz -C /usr/local

vi /etc/profile
MAVEN_HOME=/usr/local/apache-maven-3.5.4
export MAVEN_HOME
export PATH=${PATH}:${MAVEN_HOME}/bin



###
cd target/

找到rocketmq-console-ng-1.0.1.jar

java -jar rocketmq-console-ng-1.0.1.jar --rocketmq.config.namesrvAddr='xx.xx.xx.xx:9876;xx.xx.xx.xx:9876'

默认端口是 8080 
http://xx.xx.xx.xx:8080/


也可以改端口
/usr/local/rocketmq-externals/rocketmq-console/src/main/resources/application.properties
增加:
rocketmq.config.namesrvAddr=xx.xx.xx.xx:9876;xx.xx.xx.xx:9876
server.port=9090
然后重新 build 
mvn clean package -Dmaven.test.skip=true
java -jar rocketmq-console-ng-1.0.1.jar
或者
nohup  java -jar rocketmq-console-ng-1.0.1.jar
nohup  java -jar rocketmq-console-ng-1.0.1.jar >>test.log  &

http://xx.xx.xx.xx:9090/#/

 

 

参考:

https://www.cnblogs.com/zhehan/p/10715766.html

有问题,也可关注微信公众号: 戒律院   , 向我咨询

你可能感兴趣的:(RocketMQ 集群搭建)