重庆分公司
重庆分公司，新征程启航
为企业提供网站建设、域名注册、服务器等服务
RocketMQ基本概念及原理是什么
这篇文章将为大家详细讲解有关RocketMQ基本概念及原理是什么，文章内容质量较高，因此小编分享给大家做个参考，希望大家阅读完这篇文章后对相关知识有一定的了解。
为无极等地区用户提供了全套网页设计制作服务，及无极网站建设行业解决方案。主营业务为成都网站设计、网站制作、无极网站设计，以传统方式定制建设网站，并提供域名空间备案等一条龙服务，秉承以专业、用心的态度为用户提供真诚的服务。我们深信只要达到每一位用户的要求，就会得到认可，从而选择与我们长期合作。这样，我们也可以走得更远！
RocketMQ使用
基本概念
ProducerGroup
通常具有同样属性（处理的消息种类-topic、以及消息处理逻辑流程—分布式多个客户端）的一些producer可以归为同一个group。在事务消息机制中，如果某条发送某条消息的producer-A宕机，使得事务消息一直处于PREPARED状态并超时，则broker会回查 同一个group的其他producer，确认这条消息应该commit还是rollback。
ConsumerGroup
具有同样逻辑消费同样消息的consumer，可以归并为一个group。同一个group内的消费者，可以共同消费（CLUSTERING）对应topic的消息，达到分布式并行处理的功能。
Topoic
消息的逻辑管理单位。
Queue
消息的物理管理单位。一个Topic下可以有多个Queue，Queue的引入使得消息存储可以分布式集群化，具有了水平扩展的能力。
消费进度管理
RocketMQ的broker端，不负责推送消息，无论消费者是否消费消息，都将消息存储起来。谁要消费消息，就向broker发请求获取消息，消费记录由consumer来维护。RocketMQ提供了两种存储方式来保留消费记录：一种是保留在consumer所在的服务器上；另一种是保存在broker服务器上。用户还可以自己实现相应的消费进度存储接口。
默认情况下，采用集群消费（CLUSTERING），会将记录保存在broker端；而采用广播消费（BROADCASTING）则会将消费记录保存在本地。
顺序消息
用户实现MessageQueueSelector为某一批消息（通常是有同样的唯一的标示ID），选择同一个Queue，则这一批消息的消费将是顺序消费（并由同一个consumer完成消费）。
事务消息
这样的消息有多个状态，并且其发送是两阶段的。第一个阶段发送PREPARED状态的消息，此时consumer是看不见这种状态的消息的，发送完毕后回调用户的TransactionExecutor接口，执行相应的事务操作（如数据库），当事务操作成功时，则对此条消息返回commit，让broker对该消息执行commit操作，成为commit状态的消息对consumer是可见的。
基本原理
总览
RocketMQ以Topic来管理不同应用的消息。对于生产者而言，发送消息是，需要指定消息的Topic，对于消费者而言，在启动后，需要订阅相应的Topic，然后可以消费相应的消息。Topic是逻辑上的概念，在物理实现上，一个Topic由多个Queue组成，采用多个Queue的好处是可以将Broker存储分布式化，提高系统性能。
RocketMQ中，producer将消息发送给Broker时，需要制定发送到哪一个队列中，默认情况下，producer会轮询的将消息发送到每个队列中（所有broker下的Queue合并成一个List去轮询）。
对于consumer而言，会为每个consumer分配固定的队列（如果队列总数没有发生变化），consumer从固定的队列中去拉取没有消费的消息进行处理。
Producer
Producer端（属于client）的逻辑概述：
producer端的逻辑都比较简单，将消息发送到某个Queue中即可，具体发送到那个Queue可以由用户控制（MessageQueueSelector接口），默认情况下，将轮询方式选择Queue。在producer端，会从NameServer将所有Broker的Topic及对应的Queue信息（即：TopicRoute信息）拉取到本地，然后根据
RocketMQ将topic的消息以多个Queue来管理，使得其较为容易的就可以进行水平扩展，提供系统吞吐力。这样分布带来的问题，就是从全局上不能做到顺序性（很多时候也并不需要全局上的顺序性）。
RocketMQ提到支持顺序消息，实际上是指基于Queue级别的顺序。用户将某些需要满足顺序的一批消息（比如电商某个订单号的一系列后续操作、比如数据库的某个主键的insert、delete、update等操作）发送到固定的某个Queue中，则从这个Queue消费消息的consumer，针对这一批消息是顺序消费。
问题1：针对顺序消息的队列，是否可以做到不停服务下的集群动态扩展？
Consumer
consumer逻辑稍微复杂一点。初步思考，consumer端至少需要处理：
1、 消息的获取
2、 offset（消费进度）的管理与存储
3、 集群消费模式下，Queue的分配问题（rebalance）
RocketMQ对外提供了两种不同形式的Consumer：PushConsumer和PullConsumer。顾名思义，对于PullConsumer而言，用户需要主动调用相应的接口去拉取未消费的消息。对于PushConsumer而言，用户提供消息处理的CallBack，有未曾消费的消息时，会主动回调这个CallBack来处理消息。虽从用户角度而言，Consumer存在主动（pull）和被动（push），但RocketMQ本身的broker端仅仅保存所有的消息，并不负责push消息，因此PushConsumer的底层实现也是有一个长连接主动去broker上拉取未消费的消息，然后回调用户的callback逻辑。
PushConsumer端逻辑概述：
自己使用PushConsumer的代码非常简单：
1
2
3
4
5
6
7
8
9
10
11 DefaultMQPushConsumer consumer = new DefaultMQPushConsumer(“groupName”);
consumer.subscribe(“TopicName”, “*”); // a | b | c
consumer.registerMessaeListener( new MessageListenerConcurrently() {
public ConsumeConcurrentlyStatus consumeMessage(List
ConsumeConcurrentlyContext context) {
System.out.println(“Consume Message Num: ” + msgs.size());
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
}
});
consumer.start();
// add shutdown hook to execute consumer.shutdown();
第2行的subscribe即定于某个topic下，符合某些标签（tag）的消息。这个过滤会在服务端过滤（其实在consumer端也有过滤逻辑）。tag之间用”|”分割开。这些tag会被解析成SubscriptionData来保存信息，主要存储tag的字符串集合，以及这些tag对应的hashcode集合（在broker端的存储和过滤其实都是tag值对应的hashcode，可能是为了加速过滤以及节约存储空间）。
主要的逻辑在第10行调用start函数之后开始。Consumer的主要实现是DefaultMQPushConsumerImpl，其包含的对象关系简单如下图：
DefaultMQPushConsumerImpl中各个对象的主要功能如下：
RebalancePushImpl： 主要负责决定，当前的consumer应该从哪些Queue中消费消息；
PullAPIWrapper： 长连接，负责从broker处拉取消息，然后利用ConsumeMessageService回调用户的Listener执行消息消费逻辑；
ConsumeMessageService： 实现所谓的“Push-被动”消费机制；从Broker拉取的消息后，封装成ConsumeRequest提交给ConsumeMessageSerivce，此service负责回调用户的Listener消费消息；
OffsetStore： 维护当前consumer的消费记录（offset）；有两种实现，Local和Rmote，Local存储在本地磁盘上，适用于BROADCASTING广播消费模式；而Remote则将消费进度存储在Broker上，适用于CLUSTERING集群消费模式；
MQClientFactory： 大杂烩，负责管理client（consumer、producer），并提供多中功能接口供各个Service（Rebalance、PullMessage等）调用；大部分逻辑均在这个类中完成；
使用
Producer返回值
发送消息时，只有抛出异常，才是发送失败，其他情况下，根据如下返回值，应用层做相应取舍处理逻辑：
SendStatus
返回值 解释
SEND_OK 发送成功
FLUSH_DISK_TIMEOUT 发送成功，但broker刷盘失败，此时如若服务器宕机，消息会丢失；
FLUSH_SLAVE_TIMEOUT 写从失败；如果主宕机，消息丢失；
SLAVE_NOT_AVAILABLE 从不可用；
注意：当配置多master无slave的集群时，若master的brokerRole为SYNC_MASTER，则发送消息会一直返回这个值；最新版本（3.1.14以上）事务消息将一直发送失败（事务消息中处理了返回值不为SEND_OK，则直接进行ROLL_BACK）；
当应用方明确指出，producer发送成功为SEND_OK状态的消息对consumer才是可见的。可以采用事务消息来完成这个功能，RocketMQ 从3.0.14版本开始，对于事务消息，开始检查SendStatus，如果不为SEND_OK，则直接执行事务消息的回滚。
Consumer返回值
当使用PushConsumer（使用callBack回调执行应用消费逻辑）
非顺序消息（ConsumeConcurrentlyStatus）
返回值 解释
CONSUME_SUCCESS 消费成功
RECONSUME_LATER 消费失败，稍后重新消费这一批消息
RECONSUMER_LATER的解释：
这一批消息均会sendBack到broker上，稍后会重新消费这一批消息。可以通过设置参数，使得批量消费的“批量”为一条，这样可以一定程度避免重复消费。但这样设置后，可能效率较低。另外一种方法是在用户指定的CallBack（MessageListenerConcurrently）中，通过对应的ConsumeConcurrentlyContext参数来控制本批消息从哪一条之后重复消费。
具体方法是控制context的ackIndex变量。这个变量的意思是对于这一批消息（List
顺序消息（ConsumerOrderlyStatus）
返回值 解释
SUCCESS 消息处理成功
ROLLBACK 回滚消息—似乎用在了事务消息中
COMMIT 提交消息—似乎用在了事务消息中
SUSPEND_CURRENT_QUEUE_A_MOMENT 当前队列挂起一段时间
问题：消费端的ROLLBACK、COMMIT如何理解？？？
普通消息
使用TIPS
集群搭建
1. 基本配置
使用./bin/mqbroker –p >conf/broker.conf，查看所有参数的默认取值；根据自己集群的需要修改对应的配置；
2. 集群选择
RocketMQ集群支持如下一些模式的配置：
集群模式 特点 适用场景
单Master 一个Broker实例；
或者多个Broker实例，但Topic只在某一个Broker上配置了； 测试
多Master 无Slave 多个Broker实例构成集群，且brokerID均为0（即角色都为Master）
master挂掉后，这个master上未被消费的消息，暂时不能被消费；
可以容忍消息丢失（未被consumer消费）的应用场景；如日志收集
多Master多Slave 每个master有一个backup的slave HA高可用；当master-slave采用同步双写时（采用异步时，任可能存在部分未写入slave的消息丢失），master挂掉，也可以从slave处消费消息；但当master挂掉后，目前不支持自动的Failover（因此不支持producer的写）；
疑问： 手动如何切换？是否需要修改Slave的配置为Master，然后重启broker实例？代价有点高，支持发送命令切换否？
当使用多master无slave的集群搭建方式时，master的brokerRole配置必须为ASYNC_MASTER。如果配置为SYNC_MASTER，则producer发送消息时，返回值的SendStatus会一直是SLAVE_NOT_AVAILABLE。
3. 系统参数优化
参考bin/os.sh中的参数，重点注意物理内存预留参数(vm.min_free_kbytes)。
4. broker的启动
采用集群模式时，启动broker时，需要制定nameserver 地址的list，这里一定要注意，要将所有的nameserver 地址都包含进去；因为rocketmq的nameserver之间并不会同步，均需要broker主动汇报；如果有3个nameserver: A B C，启动时只制定了A，忘记制定了B C，那么客户端如果刚好链接了B或C去获取broker的信息，则会获取失败。
消息使用
问题整理
问题：
1、服务器磁盘配置大概是怎样（重点想了解磁盘配置、磁盘总容量，例如： N * 4T SATA 7200 ）？
2、服务器的磁盘做raid了吗？做的哪一种raid？刷磁盘模式是SYNC还是ASYNC？
3、rocketmq采用的哪种方式搭建（多master无slave、多master多slave）？如果是master-slave方式，主从同步是SYNC还是ASYNC方式？
解答：
1、一般是3T磁盘，实际是12个600，12* 600G的sas 15000转的磁盘做了raid10
2、刷盘模式通常是异步方式
3、大部分集群是不开启slave的， 有少部分集群会开启 sync方式的slave
关于RocketMQ基本概念及原理是什么就分享到这里了，希望以上内容可以对大家有一定的帮助，可以学到更多知识。如果觉得文章不错，可以把它分享出去让更多的人看到。
网页名称：RocketMQ基本概念及原理是什么
浏览路径：http://cqcxhl.cn/article/pojese.html