l 亿级消息堆积能力
地址是:https://github.com/apache/rocketmq
rocketmq放在/usr/local/rocketmq-all
进入上图所示的目录,输入mvn命令:
mvn clean package install -Prelease-all assembly:assembly -U
编译过程会很长,请各位老爷们耐心等待
编译完成后,后多出一个target文件夹,这就是已经编译好的代码
首先我们进入下面的目录:/usr/local/rocketmq-all/target/apache-rocketmq-all/bin
就是编译后的bin目录下,然后我们把默认配置给他改一下。因为他的默认配置很高
现在我们来修改一下内存参数,rocketmq中默认内存4G!!!我们的小虚拟机根本承受不住,在启动时会直接因为内存问题出现一个error:
Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x00000006c0000000, 2147483648, 0) failed;
error='Cannot allocate memory' (errno=12)
修改runserver.sh
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:PermSize=128m -XX:MaxPermSize=320m"
修改runbroker.sh
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m
现在可以开始启动了
启动NameServer
nohup sh bin/mqnamesrv &
启动Broker
nohup sh bin/mqbroker -n localhost:9876 &
看一下这两个服务的启动状态
cat nohup.out
也可以到/root/logs/rocketmqlogs下去看服务日志
#
# There is insufficient memory for the Java Runtime Environment to continue.
# Native memory allocation (mmap) failed to map 8589934592 bytes for committing reserved memory.
# An error report file with more information is saved as:
# /usr/local/rocketmq-all/target/apache-rocketmq-all/bin/hs_err_pid2087.log
OpenJDK 64-Bit Server VM warning: If the number of processors is expected to increase from one, then you should configure the number of parallel GC threads appropriately using -XX:ParallelGCThreads=N
没报错应该就是正常启动了
好了,现在虚拟机上的rocketmq服务以及搭建完成了。接下来在本地写一个生产者类和一个消费者类Demo
org.apache.rocketmq
rocketmq-client
${rocketmq.version}
org.apache.rocketmq
rocketmq-common
${rocketmq.version}
public class Producer {
public static void main(String[] args) throws MQClientException, InterruptedException {
/**
* 一个应用创建一个Producer,由应用来维护此对象,可以设置为全局对象或者单例
* 注意:ProducerGroupName需要由应用来保证唯一
* ProducerGroup这个概念发送普通的消息时,作用不大,但是发送分布式事务消息时,比较关键,
* 因为服务器会回查这个Group下的任意一个Producer
*/
DefaultMQProducer producer = new DefaultMQProducer("producer_huaguoguo");
producer.setNamesrvAddr("xxx:9876");
/**
* Producer对象在使用之前必须要调用start初始化,初始化一次即可
* 注意:切记不可以在每次发送消息时,都调用start方法
*/
producer.start();
/**
* 下面这段代码表明一个Producer对象可以发送多个topic,多个tag的消息。
* 注意:send方法是同步调用,只要不抛异常就标识成功。但是发送成功也可会有多种状态,
* 例如消息写入Master成功,但是Slave不成功,这种情况消息属于成功,但是对于个别应用如果对消息可靠性要求极高
* 需要对这种情况做处理。另外,消息可能会存在发送失败的情况,失败重试由应用来处理。
*/
for (int i = 0; i < 1; i++) {
try {
/*
* 创建一个消息对象
*/
Message msg = new Message("TopicTest" /* Topic */,
"TagA" /* Tag */,
("Hello RocketMQ").getBytes(RemotingHelper.DEFAULT_CHARSET) /* Message body */
);
/*
* 调用producer发送消息来将消息传递给brokers。
*/
SendResult sendResult = producer.send(msg);
System.out.printf("%s%n", sendResult);
} catch (Exception e) {
e.printStackTrace();
Thread.sleep(1000);
}
}
/**
* 应用退出时,要调用shutdown来清理资源,关闭网络连接,从MetaQ服务器上注销自己
* 注意:我们建议应用在JBOSS、Tomcat等容器的退出钩子里调用shutdown方法
*/
producer.shutdown();
}
}
消费者类:
public class Consumer {
/**
* 当前例子是PushConsumer用法,使用方式给用户感觉是消息从RocketMQ服务器推到了应用客户端。
* 但是实际PushConsumer内部是使用长轮询Pull方式从MetaQ服务器拉消息,然后再回调用户Listener方法
*/
public static void main(String[] args) throws InterruptedException, MQClientException {
/**
* 一个应用创建一个Consumer,由应用来维护此对象,可以设置为全局对象或者单例
* 注意:ConsumerGroupName需要由应用来保证唯一
*/
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("conusmer_huaguoguo");
consumer.setNamesrvAddr("xxx:9876");
/*
* Specify where to start in case the specified consumer group is a brand new one.
*/
// consumer.setConsumeFromWhere(ConsumeFromWhere.CONSUME_FROM_FIRST_OFFSET);
/**
* 订阅指定topic下所有消息
* 注意:一个consumer对象可以订阅多个topic
*/
consumer.subscribe("TopicTest", "*");
/*
* 注册回调,以便在从brokers那里获得的消息到达时执行。
*/
consumer.registerMessageListener(new MessageListenerConcurrently() {
/**
* 这个方法是消息到达时执行消费逻辑
* 默认msgs里只有一条消息,可以通过设置consumeMessageBatchMaxSize参数来批量接收消息
*/
@Override
public ConsumeConcurrentlyStatus consumeMessage(List msgs,
ConsumeConcurrentlyContext context) {
for (MessageExt msg : msgs) {
System.out.printf(Thread.currentThread().getName() + " Receive New Messages: " + new String(msg.getBody()) + "%n");
}
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
}
});
/*
* Consumer对象在使用之前必须要调用start初始化,初始化一次即可
*/
consumer.start();
System.out.printf("Consumer Started.%n");
}
}
SendResult [sendStatus=SEND_OK, msgId=C0A82AC22FD418B4AAC248F08FA80000, offsetMsgId=C0A89E0B00002A9F0000000000083D77, messageQueue=MessageQueue [topic=TopicTest, brokerName=localhost.localdomain, queueId=2], queueOffset=751]
说明消费已经发送成功了,这时在消费者端的监听对象收到消息,并打印出来:
ConsumeMessageThread_1 Receive New Messages: Hello RocketMQ
ojbk,helloWorld成功了。