rocketmq由producer、consumer、broker、nameserver四个角色组成,对应到邮政系统中的四个角色就是发信者、收信者、负责暂存,传输、负责协调各地方邮局的管理机构。
启动RocketMQ 的顺序是先启动NameServer ,再启动Broker 。很多应用程序既要发送,又要接收,可以启动多个Producer 和Consumer 来发送多种消息,同时接收多种消息。
为了消除单点故障,增加可靠性或增大吞吐量,可以在多台机器上部署多个NameServer 和Broker ,为每个Broker 部署一个或多个Slave 。
1.NameServer
NameServer 是整个消息队列中的状态服务器,集群的各个组件通过它来了解全局的信息。同时各个角色的机器都要定期向NameServer 上报自己的状态,超时不上报的话, NameServer 会认为某个机器出故障不可用了,其他的组件会把这个机器从可用列表里移除。NamServer 可以部署多个,相互之间独立,其他角色同时向多个NameServer机器上报状态信息,从而达到热备份的目的。NameServer 本身是无状态的,也就是说NameServer 中的Broker 、Topic 等状态信息不会持久存储,都是由各个角色定时上报并存储到内存中的( NameServer 支持配置参数的持久化, 一般用不到) 。
相对来说,nameserver的稳定性非常高,原因如下:
nameserver互相独立,彼此没有通信关系,单台nameserver挂掉,不影响其他nameserver,即使全部挂掉,也不影响业务系统使用。
nameserver不会有频繁的读写,所以性能开销非常小,稳定性很高。
2.Broker
Broker 是RocketMQ 的核心,大部分‘重量级”工作都是由Broker 完成的,包括接收Producer 发过来的消息、处理Consumer 的消费消息请求、-消息的持久化存储、消息的HA机制以及服务端过滤功能等。
与nameserver关系
连接
单个broker和所有nameserver保持长连接
心跳
心跳间隔:每隔30秒(此时间无法更改)向所有nameserver发送心跳,心跳包含了自身的topic配置信息。
心跳超时:nameserver每隔10秒钟(此时间无法更改),扫描所有还存活的broker连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则断开连接。
断开
时机:broker挂掉;心跳超时导致nameserver主动关闭连接
动作:一旦连接断开,nameserver会立即感知,更新topc与队列的对应关系,但不会通知生产者和消费者
负载均衡
一个topic分布在多个broker上,一个broker可以配置多个topic,它们是多对多的关系。
如果某个topic消息量很大,应该给它多配置几个队列,并且尽量多分布在不同broker上,减轻某个broker的压力。
topic消息量都比较均匀的情况下,如果某个broker上的队列越多,则该broker压力越大。
可用性
由于消息分布在各个broker上,一旦某个broker宕机,则该broker上的消息读写都会受到影响。所以rocketmq提供了master/slave的结构,salve定时从master同步数据,如果master宕机,则slave提供消费服务,但是不能写入消息,此过程对应用透明,由rocketmq内部解决。
这里有两个关键点:
一旦某个broker master宕机,生产者和消费者多久才能发现?受限于rocketmq的网络连接机制,默认情况下,最多需要30秒,但这个时间可由应用设定参数来缩短时间。这个时间段内,发往该broker的消息都是失败的,而且该broker的消息无法消费,因为此时消费者不知道该broker已经挂掉。
消费者得到master宕机通知后,转向slave消费,但是slave不能保证master的消息100%都同步过来了,因此会有少量的消息丢失。但是消息最终不会丢的,一旦master恢复,未同步过去的消息会被消费掉。
可靠性
所有发往broker的消息,有同步刷盘和异步刷盘机制,总的来说,可靠性非常高
同步刷盘时,消息写入物理文件才会返回成功,因此非常可靠
异步刷盘时,只有机器宕机,才会产生消息丢失,broker挂掉可能会发生,但是机器宕机崩溃是很少发生的,除非突然断电
消息清理
扫描间隔
默认10秒,由broker配置参数cleanResourceInterval决定
空间阈值
物理文件不能无限制的一直存储在磁盘,当磁盘空间达到阈值时,不再接受消息,broker打印出日志,消息发送失败,阈值为固定值85%
清理时机
默认每天凌晨4点,由broker配置参数deleteWhen决定;或者磁盘空间达到阈值
文件保留时长
默认72小时,由broker配置参数fileReservedTime决定
读写性能
文件内存映射方式操作文件,避免read/write系统调用和实时文件读写,性能非常高
永远一个文件在写,其他文件在读
顺序写,随机读
利用linux的sendfile机制,将消息内容直接输出到sokect管道,避免系统调用
系统特性
大内存,内存越大性能越高,否则系统swap会成为性能瓶颈
IO密集
cpu load高,使用率低,因为cpu占用后,大部分时间在IO WAIT
磁盘可靠性要求高,为了兼顾安全和性能,采用RAID10阵列
磁盘读取速度要求快,要求高转速大容量磁盘
broker高可用性
消费端:
Master 角色的Broker 支持读和写, Slave 角色的Broker 仅支持读,也就是Producer 只能和Master 角色的Broker 连接写人消息; Consumer 可以连接Master 角色的Broker ,也可以连接Slave 角色的Broker 来读取消息。当Master繁忙或者不可用时,Consumer会被自动切换到Slave读。
发送端:
在创建Topic 的时候,把Topic 的多个Message Queue 创建在多个Broker 组上(相同Broker 名称,不同broker Id 的机器组成一个Broker 组),这样当一个Broker 组的Master 不可用后,其他组的Master 仍然可用, Producer 仍然可以发送消息。RocketMQ 目前还不支持把Slave 自动转成Master ,如果机器资源不足,需要把Slave 转成Master ,则要手动停止S lave 角色的Broker ,更改配置文件,用新的配置文件启动Broker
1)Topic与Message Queue
不同的topic名称用来区分不同类型的消息,所以对于发送和接受消息,得先创建topic
当topic要发送和接受的消息量特别大,需要能支持增加并行处理的机器来提高处理速度,这时候一个Topic 可以根据需求设置一个或多个Message Queue, Message Queue 类似分区或Partition
Topic 有了多个Message Queue 后,消息可以并行地向各个Message Queue 发送,消费者也可以并行地从多个Message Queue 读取消息并消费
2)订阅组
订阅组在提高系统的高可用性和吞吐量方面扮演着重要的角色,比如用Clustering 模式消费一个Topic 里的消息内容时,可以启动多个消费者并行消费,每个消费者只消费To pic 里消息的一部分,以此提高消费速度,这个时候就是通过订阅组来指明哪些消费者是同一组,同一组的消费者共同消费同一个Topic 里的内容。
3)Offset
Offset 是指某个Topic 下的一条消息在某个Message Queue 里的位置,通过Offset 的值可以定位到这条消息,或者指示Co nsumer 从这条消息开始向后继续处理。
3.生产者
与nameserver关系
连接
单个生产者者和一台nameserver保持长连接,定时查询topic配置信息,如果该nameserver挂掉,生产者会自动连接下一个nameserver,直到有可用连接为止,并能自动重连。
轮询时间
默认情况下,生产者每隔30秒从nameserver获取所有topic的最新队列情况,这意味着某个broker如果宕机,生产者最多要30秒才能感知,在此期间,发往该broker的消息发送失败。该时间由DefaultMQProducer的pollNameServerInteval参数决定,可手动配置。
心跳
与nameserver没有心跳
与broker关系
连接
单个生产者和该生产者关联的所有broker保持长连接。
心跳
默认情况下,生产者每隔30秒向所有broker发送心跳,该时间由DefaultMQProducer的heartbeatBrokerInterval参数决定,可手动配置。broker每隔10秒钟(此时间无法更改),扫描所有还存活的连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则关闭连接。
连接断开
移除broker上的生产者信息
负载均衡
生产者时间没有关系,每个生产者向队列轮流发送消息
4.消费者
与nameserver关系
连接
单个消费者和一台nameserver保持长连接,定时查询topic配置信息,如果该nameserver挂掉,消费者会自动连接下一个nameserver,直到有可用连接为止,并能自动重连。
心跳
与nameserver没有心跳
轮询时间
默认情况下,消费者每隔30秒从nameserver获取所有topic的最新队列情况,这意味着某个broker如果宕机,客户端最多要30秒才能感知。该时间由DefaultMQPushConsumer的pollNameServerInteval参数决定,可手动配置。
与broker关系
连接
单个消费者和该消费者关联的所有broker保持长连接。
心跳
默认情况下,消费者每隔30秒向所有broker发送心跳,该时间由DefaultMQPushConsumer的heartbeatBrokerInterval参数决定,可手动配置。broker每隔10秒钟(此时间无法更改),扫描所有还存活的连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则关闭连接,并向该消费者分组的所有消费者发出通知,分组内消费者重新分配队列继续消费
断开
时机:消费者挂掉;心跳超时导致broker主动关闭连接
动作:一旦连接断开,broker会立即感知到,并向该消费者分组的所有消费者发出通知,分组内消费者重新分配队列继续消费
负载均衡
集群消费模式下,一个消费者集群多台机器共同消费一个topic的多个队列,一个队列只会被一个消费者消费。如果某个消费者挂掉,分组内其它消费者会接替挂掉的消费者继续消费。
消费机制
本地队列
消费者不间断的从broker拉取消息,消息拉取到本地队列,然后本地消费线程消费本地消息队列,只是一个异步过程,拉取线程不会等待本地消费线程,这种模式实时性非常高。对消费者对本地队列有一个保护,因此本地消息队列不能无限大,否则可能会占用大量内存,本地队列大小由DefaultMQPushConsumer的pullThresholdForQueue属性控制,默认1000,可手动设置。
轮询间隔
消息拉取线程每隔多久拉取一次?间隔时间由DefaultMQPushConsumer的pullInterval属性控制,默认为0,可手动设置。
消息消费数量
监听器每次接受本地队列的消息是多少条?这个参数由DefaultMQPushConsumer的consumeMessageBatchMaxSize属性控制,默认为1,可手动设置。
消费进度存储
每隔一段时间将各个队列的消费进度存储到对应的broker上,该时间由DefaultMQPushConsumer的persistConsumerOffsetInterval属性控制,默认为5秒,可手动设置。
zookeeper为什么不用?
ZooKeeper 是Apache 的一个开源软件,为分布式应用程序提供协调服务。那为什么RocketMQ 要自己造轮子,开发集群的管理程序呢?答案是
ZooKeeper 的功能很强大,包括自动Master 选举等, RocketMQ 的架构设计决定了它不需要进行Master 选举,用不到这些复杂的功能,只需要一个轻量级的元数据服务器就足够了。中间件对稳定性要求很高, RocketMQ 的NameServer 只有很少的代码,容易维护,所以不需要再依赖另一个中间件,从而减少整体维护成本。