IT评测·应用市场-qidao123.com

标题: RocketMQ是是如何管理消费进度的？又是如何保证消息成功消费的? [打印本页]
作者: 王海鱼    时间: 2023-4-13 14:38
标题: RocketMQ是是如何管理消费进度的？又是如何保证消息成功消费的?
RocketMQ消费者保障


消息确认机制

consumer的每个实例是靠队列分配来决定如何消费消息的。那么消费进度具体是如何管理的，又是如何保证消息成功消费的?（RocketMQ有保证消息肯定消费成功的特性,失败则重试）
什么是ACK

消息确认机制
在实际使用RocketMQ的时候我们并不能保证每次发送的消息都刚好能被消费者一次性正常消费成功，可能会存在需要多次消费才能成功或者一直消费失败的情况，那作为发送者该做如何处理呢？
为了保证数据不被丢失，RocketMQ支持消息确认机制，即ack。发送者为了保证消息肯定消费成功，只有使用方明确表示消费成功，RocketMQ才会认为消息消费成功。中途断电，抛出异常等都不会认为成功——即都会重新投递。
保证数据能被正确处理而不仅仅是被Consumer收到，我们就不能采用no-ack或者auto-ack，我们需要手动ack(manual-ack)。在数据处理完成后手动发送ack，这个时候Server才将Message删除。
RocketMQ ACK

由于以上工作所有的机制都实现在PushConsumer中，所以本文的原理均只适用于RocketMQ中的PushConsumer即Java客户端中的DefaultPushConsumer。 若使用了PullConsumer模式，类似的工作如何ack，如何保证消费等均需要使用方自己实现。
注：广播消费和集群消费的处理有部分区别，以下均特指集群消费（CLSUTER），广播（BROADCASTING）下部分可能不适用。
保证消费成功

PushConsumer为了保证消息肯定消费成功，只有使用方明确表示消费成功，RocketMQ才会认为消息消费成功。中途断电，抛出异常等都不会认为成功——即都会重新投递。
代码示例

消费的时候，我们需要注入一个消费回调，具体sample代码如下：
  1. COPYconsumer.registerMessageListener(new MessageListenerConcurrently() {
  2.         @Override
  3.         public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> msgs, ConsumeConcurrentlyContext context) {
  4.             System.out.println(Thread.currentThread().getName() + " Receive New Messages: " + msgs);
  5.             execute();//执行真正消费
  6.             return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  7.         }
  8.     });
复制代码
业务实现消费回调的时候，当且仅当此回调函数返回ConsumeConcurrentlyStatus.CONSUME_SUCCESS，RocketMQ才会认为这批消息（默认是1条）是消费完成的。
如果这时候消息消费失败，例如数据库异常，余额不足扣款失败等一切业务认为消息需要重试的场景，只要返回ConsumeConcurrentlyStatus.RECONSUME_LATER，RocketMQ就会认为这批消息消费失败了。
为了保证消息是肯定被至少消费成功一次，RocketMQ会把这批消息重发回Broker（topic不是原topic而是这个消费租的RETRY topic），在延迟的某个时间点（默认是10秒，业务可设置）后，再次投递到这个ConsumerGroup。而如果一直这样重复消费都持续失败到一定次数（默认16次），就会投递到DLQ死信队列。应用可以监控死信队列来做人工干预。
ACK进度保存

启动的时候从哪里消费

当新实例启动的时候，PushConsumer会拿到本消费组broker已经记录好的消费进度（consumer offset），按照这个进度发起自己的第一次Pull请求。
如果这个消费进度在Broker并没有存储起来，证明这个是一个全新的消费组，这时候客户端有几个策略可以选择：
  1. COPYCONSUME_FROM_LAST_OFFSET //默认策略，从该队列最尾开始消费，即跳过历史消息
  2. CONSUME_FROM_FIRST_OFFSET //从队列最开始开始消费，即历史消息（还储存在broker的）全部消费一遍
  3. CONSUME_FROM_TIMESTAMP//从某个时间点开始消费，和setConsumeTimestamp()配合使用，默认是半个小时以前
复制代码
所以，社区中经常有人问：“为什么我设了CONSUME_FROM_LAST_OFFSET，历史的消息还是被消费了”？ 原因就在于只有全新的消费组才会使用到这些策略，老的消费组都是按已经存储过的消费进度继续消费。
对于老消费组想跳过历史消息需要自身做过滤，或者使用先修改消费进度
消息ACK消费进度

RocketMQ是以consumer group+queue为单位是管理消费进度的，以一个consumer offset标记这个这个消费组在这条queue上的消费进度。
如果某已存在的消费组出现了新消费实例的时候，依靠这个组的消费进度，就可以判断第一次是从哪里开始拉取的，每次消息成功后，本地的消费进度会被更新，然后由定时器定时同步到broker，以此持久化消费进度。
但是每次记录消费进度的时候，只会把一批消息中最小的offset值为消费进度值，如下图：

这钟方式和传统的一条message单独ack的方式有本质的区别。性能上提升的同时，会带来一个潜在的重复问题——由于消费进度只是记录了一个下标，就可能出现拉取了100条消息如 2101-2200的消息，后面99条都消费结束了，只有2101消费一直没有结束的情况。
在这种情况下，RocketMQ为了保证消息肯定被消费成功，消费进度职能维持在2101，直到2101也消费结束了，本地的消费进度才能标记2200消费结束了（注：consumerOffset=2201）。
重复消费

在这种设计下，就有消费大量重复的风险。如2101在还没有消费完成的时候消费实例突然退出（机器断电，或者被kill）。这条queue的消费进度还是维持在2101，当queue重新分配给新的实例的时候，新的实例从broker上拿到的消费进度还是维持在2101，这时候就会又从2101开始消费，2102-2200这批消息实际上已经被消费过还是会投递一次。
对于这个场景，RocketMQ暂时无能为力，所以业务必须要保证消息消费的幂等性，这也是RocketMQ官方多次强调的态度。
实际上，从源码的角度上看，RocketMQ可能是考虑过这个问题的，截止到3.2.6的版本的源码中，可以看到为了缓解这个问题的影响面，DefaultMQPushConsumer中有个配置consumeConcurrentlyMaxSpan
  1. COPY/**
  2. * Concurrently max span offset.it has no effect on sequential consumption
  3. */
  4. private int consumeConcurrentlyMaxSpan = 2000;
复制代码
这个值默认是2000，当RocketMQ发现本地缓存的消息的最大值-最小值差距大于这个值（2000）的时候，会触发流控——也就是说如果头尾都卡住了部分消息，达到了这个阈值就不再拉取消息。
但作用实际很有限，像刚刚这个例子，2101的消费是死循环，其他消费非常正常的话，是无能为力的。一旦退出，在不人工干预的情况下，2101后所有消息全部重复!
Ack卡进度解决方案

实际上对于卡住进度的场景，可以选择弃车保帅的方案：把消息卡住那些消息，先ack掉，让进度前移。但要保证这条消息不会因此丢失，ack之前要把消息sendBack回去，这样这条卡住的消息就会必然重复，但会解决潜在的大量重复的场景。 这也是我们公司自己定制的解决方案。
部分源码如下：
  1. COPYclass ConsumeRequestWithUnAck implements Runnable {
  2.     final ConsumeRequest consumeRequest;
  3.     final long resendAfterIfStillUnAck;//n毫秒没有消费完，就重发
  5.     ConsumeRequestWithUnAck(ConsumeRequest consumeRequest,long resendAfterIfStillUnAck) {
  6.         this.consumeRequest = consumeRequest;
  7.         this.resendAfterIfStillUnAck = resendAfterIfStillUnAck;
  8.     }
  10.     @Override
  11.     public void run() {
  12.         //每次消费前，计划延时任务，超时则ack并重发
  13.         final WeakReference<ConsumeRequest> crReff = new WeakReference<>(this.consumeRequest);
  14.         ScheduledFuture scheduledFuture=null;
  15.         if(!ConsumeDispatcher.this.ackAndResendScheduler.isShutdown()) {
  16.             scheduledFuture= ConsumeDispatcher.this.ackAndResendScheduler.schedule(new ConsumeTooLongChecker(crReff),resendAfterIfStillUnAck,TimeUnit.MILLISECONDS);
  17.         }
  18.         try{
  19.             this.consumeRequest.run();//正常执行并更新offset
  20.         }
  21.         finally {
  22.             if (scheduledFuture != null) scheduledFuture.cancel(false);//消费结束后,取消任务
  23.         }
  24.     }
  26. }
复制代码
核心源码如下：
  1. COPY//ConsumeMessageConcurrentlyService.java
  2. public void start() {
  3.     this.CleanExpireMsgExecutors.scheduleAtFixedRate(new Runnable() {
  5.         @Override
  6.         public void run() {
  7.             cleanExpireMsg();
  8.         }
  10.     }, this.defaultMQPushConsumer.getConsumeTimeout(), this.defaultMQPushConsumer.getConsumeTimeout(), TimeUnit.MINUTES);
  11. }
  12. //ConsumeMessageConcurrentlyService.java
  13. private void cleanExpireMsg() {
  14.     Iterator<Map.Entry<MessageQueue, ProcessQueue>> it =
  15.             this.defaultMQPushConsumerImpl.getRebalanceImpl().getProcessQueueTable().entrySet().iterator();
  16.     while (it.hasNext()) {
  17.         Map.Entry<MessageQueue, ProcessQueue> next = it.next();
  18.         ProcessQueue pq = next.getValue();
  19.         pq.cleanExpiredMsg(this.defaultMQPushConsumer);
  20.     }
  21. }
  23. //ProcessQueue.java
  24. public void cleanExpiredMsg(DefaultMQPushConsumer pushConsumer) {
  25.     if (pushConsumer.getDefaultMQPushConsumerImpl().isConsumeOrderly()) {
  26.         return;
  27.     }
  29.     int loop = msgTreeMap.size() < 16 ? msgTreeMap.size() : 16;
  30.     for (int i = 0; i < loop; i++) {
  31.         MessageExt msg = null;
  32.         try {
  33.             this.lockTreeMap.readLock().lockInterruptibly();
  34.             try {
  35.                 if (!msgTreeMap.isEmpty() && System.currentTimeMillis() - Long.parseLong(MessageAccessor.getConsumeStartTimeStamp(msgTreeMap.firstEntry().getValue())) > pushConsumer.getConsumeTimeout() * 60 * 1000) {
  36.                     msg = msgTreeMap.firstEntry().getValue();
  37.                 } else {
  39.                     break;
  40.                 }
  41.             } finally {
  42.                 this.lockTreeMap.readLock().unlock();
  43.             }
  44.         } catch (InterruptedException e) {
  45.             log.error("getExpiredMsg exception", e);
  46.         }
  48.         try {
  50.             pushConsumer.sendMessageBack(msg, 3);
  51.             log.info("send expire msg back. topic={}, msgId={}, storeHost={}, queueId={}, queueOffset={}", msg.getTopic(), msg.getMsgId(), msg.getStoreHost(), msg.getQueueId(), msg.getQueueOffset());
  52.             try {
  53.                 this.lockTreeMap.writeLock().lockInterruptibly();
  54.                 try {
  55.                     if (!msgTreeMap.isEmpty() && msg.getQueueOffset() == msgTreeMap.firstKey()) {
  56.                         try {
  57.                             msgTreeMap.remove(msgTreeMap.firstKey());
  58.                         } catch (Exception e) {
  59.                             log.error("send expired msg exception", e);
  60.                         }
  61.                     }
  62.                 } finally {
  63.                     this.lockTreeMap.writeLock().unlock();
  64.                 }
  65.             } catch (InterruptedException e) {
  66.                 log.error("getExpiredMsg exception", e);
  67.             }
  68.         } catch (Exception e) {
  69.             log.error("send expired msg exception", e);
  70.         }
  71.     }
  72. }
复制代码
通过这个逻辑对比我定制的时间，可以看出有几个不太完善的问题：
消息重试

顺序消息的重试

对于顺序消息，当消费者消费消息失败后，消息队列RocketMQ版会自动不断地进行消息重试（每次间隔时间为1秒），这时，应用会出现消息消费被阻塞的情况。因此，建议您使用顺序消息时，务必保证应用能够及时监控并处理消费失败的情况，避免阻塞现象的发生。
无序消息的重试

对于无序消息（普通、定时、延时、事务消息），当消费者消费消息失败时，您可以通过设置返回状态达到消息重试的结果。
无序消息的重试只针对集群消费方式生效；广播方式不提供失败重试特性，即消费失败后，失败消息不再重试，继续消费新的消息。
注意 以下内容都只针对无序消息生效。
重试次数

消息队列RocketMQ版默认允许每条消息最多重试16次，每次重试的间隔时间如下。
第几次重试与上次重试的间隔时间第几次重试与上次重试的间隔时间110秒97分钟230秒108分钟31分钟119分钟42分钟1210分钟53分钟1320分钟64分钟1430分钟75分钟151小时86分钟162小时如果消息重试16次后仍然失败，消息将不再投递。如果严格按照上述重试时间间隔计算，某条消息在一直消费失败的前提下，将会在接下来的4小时46分钟之内进行16次重试，超过这个时间范围消息将不再重试投递。
注意 一条消息无论重试多少次，这些重试消息的Message ID不会改变。
和生产端重试区别

消费者和生产者的重试还是有区别的，主要有两点

配置方式

重试配置方式

消费失败后，重试配置方式，集群消费方式下，消息消费失败后期望消息重试，需要在消息监听器接口的实现中明确进行配置（三种方式任选一种）：

示例代码
  1. COPY//注册消息监听器
  2. consumer.registerMessageListener(new MessageListenerConcurrently() {
  3.     public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext context) {
  4.         //消息处理逻辑抛出异常，消息将重试。
  5.         doConsumeMessage(list);
  6.         //方式1：返回ConsumeConcurrentlyStatus.RECONSUME_LATER，消息将重试。
  7.         return ConsumeConcurrentlyStatus.RECONSUME_LATER;
  8.         //方式2：返回null，消息将重试。
  9.         //  return null;
  10.         //方式3：直接抛出异常，消息将重试。
  11.         // throw new RuntimeException("Consumer Message exception");
  12.     }
  13. });
复制代码
无需重试的配置方式

集群消费方式下，消息失败后期望消息不重试，需要捕获消费逻辑中可能抛出的异常，最终返回Action.CommitMessage，此后这条消息将不会再重试。
示例代码
  1. COPY//注册消息监听器
  2. consumer.registerMessageListener(new MessageListenerConcurrently() {
  3.     public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext context) {
  4.         //消息处理逻辑抛出异常，消息将重试。
  5.         try {
  6.             doConsumeMessage(list);
  7.         }catch (Exception e){
  8.             //捕获消费逻辑中的所有异常，并返回Action.CommitMessage;
  9.             return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  10.         }
  11.         //业务方正常消费
  12.         return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  13.     }
  14. });
复制代码
获取消息重试次数

消费者收到消息后，可按照以下方式获取消息的重试次数：
  1. COPY//注册消息监听器
  2. consumer.registerMessageListener(new MessageListenerConcurrently() {
  3.     public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext context) {
  4.         doConsumeMessage(list);
  5.         //获取消息重试次数
  6.         int retryTimes = list.get(0).getReconsumeTimes();
  7.         //业务方正常消费
  8.         return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  9.     }
  10. });
复制代码
效果演示

消费端只发送一条消息进行测试重试
消费端主动拒绝

演示代码
  1. COPYpublic class RetryConsumer {
  2.     public static void main(String[] args) throws Exception {
  3.         //创建一个消息消费者，并设置一个消息消费者组
  4.         DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("rocket_test_consumer_group");
  5.         //指定 NameServer 地址
  6.         consumer.setNamesrvAddr("127.0.0.1:9876");
  7.         //设置 Consumer 第一次启动时从队列头部开始消费还是队列尾部开始消费
  8.         consumer.setConsumeFromWhere(ConsumeFromWhere.CONSUME_FROM_FIRST_OFFSET);
  9.         //订阅指定 Topic 下的所有消息
  10.         consumer.subscribe("topicTest", "*");
  12.         //注册消息监听器
  13.         consumer.registerMessageListener(new MessageListenerConcurrently() {
  14.             public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext context) {
  15.                 if (list != null) {
  16.                     for (MessageExt ext : list) {
  17.                         //获取消息重试次数
  18.                         int retryTimes = ext.getReconsumeTimes();
  19.                         try {
  20.                             String message = new String(ext.getBody(), RemotingHelper.DEFAULT_CHARSET);
  21.                             System.out.println("Consumer-线程名称=[" + Thread.currentThread().getId() + "],消息重试次数:[" + retryTimes + "],接收时间:[" + new Date().getTime() + "],消息=[" + message + "]");
  22.                         } catch (UnsupportedEncodingException e) {
  23.                             e.printStackTrace();
  24.                         }
  25.                     }
  26.                 }
  27.                 //业务主动拒绝消息
  28.                 return ConsumeConcurrentlyStatus.RECONSUME_LATER;
  29.             }
  30.         });
  32.         // 消费者对象在使用之前必须要调用 start 初始化
  33.         consumer.start();
  34.         System.out.println("消息消费者已启动");
  35.     }
  36. }
复制代码
重试消息

消费端返回 ConsumeConcurrentlyStatus.RECONSUME_LATER，消费端就会不断的重试。
  1. COPYConsumer-线程名称=[35],消息重试次数:[0],接收时间:[1608117780264],消息=[Hello Java demo RocketMQ ]
  2. Consumer-线程名称=[36],消息重试次数:[1],接收时间:[1608117790840],消息=[Hello Java demo RocketMQ ]
  3. Consumer-线程名称=[37],消息重试次数:[2],接收时间:[1608117820876],消息=[Hello Java demo RocketMQ ]
复制代码
异常重试

演示代码

这里的代码意思很明显: 主动抛出一个异常，然后如果超过3次，那么就不继续重试下去，而是将该条记录保存到数据库由人工来兜底。
  1. COPYpublic class RetryConsumer {
  2.     public static void main(String[] args) throws Exception {
  3.         //创建一个消息消费者，并设置一个消息消费者组
  4.         DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("rocket_test_consumer_group");
  5.         //指定 NameServer 地址
  6.         consumer.setNamesrvAddr("127.0.0.1:9876");
  7.         //设置 Consumer 第一次启动时从队列头部开始消费还是队列尾部开始消费
  8.         consumer.setConsumeFromWhere(ConsumeFromWhere.CONSUME_FROM_FIRST_OFFSET);
  9.         //订阅指定 Topic 下的所有消息
  10.         consumer.subscribe("topicTest", "*");
  12.         //注册消息监听器
  13.         consumer.registerMessageListener(new MessageListenerConcurrently() {
  14.             public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext context) {
  15.                 if (list != null) {
  16.                     for (MessageExt ext : list) {
  17.                         //获取消息重试次数
  18.                         int retryTimes = ext.getReconsumeTimes();
  19.                         try {
  20.                             String message = new String(ext.getBody(), RemotingHelper.DEFAULT_CHARSET);
  21.                             System.out.println("Consumer-线程名称=[" + Thread.currentThread().getId() + "],消息重试次数:[" + retryTimes + "],接收时间:[" + new Date().getTime() + "],消息=[" + message + "]");
  22.                             //这里设置重试大于3次 那么通过保存数据库 人工来兜底
  23.                             if (retryTimes >= 2) {
  24.                                 System.out.println("该消息已经重试3次,保存数据库。topic=[" + ext.getTags() + "],keys=[" + ext.getKeys() + "],msg=[" + message + "]");
  25.                                 return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  26.                             }
  27.                         } catch (UnsupportedEncodingException e) {
  28.                             e.printStackTrace();
  29.                         }
  30.                     }
  31.                 }
  32.                 //主动抛出异常
  33.                 throw new RuntimeException("=======这里出错了============");
  34.                 //业务方正常消费
  35.                 //return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  36.             }
  37.         });
  39.         // 消费者对象在使用之前必须要调用 start 初始化
  40.         consumer.start();
  41.         System.out.println("消息消费者已启动");
  42.     }
  43. }
复制代码
重试消息
  1. COPYConsumer-线程名称=[36],消息重试次数:[0],接收时间:[1608118304600],消息=[Hello Java demo RocketMQ ]
  2. Consumer-线程名称=[37],消息重试次数:[1],接收时间:[1608118315165],消息=[Hello Java demo RocketMQ ]
  3. Consumer-线程名称=[38],消息重试次数:[2],接收时间:[1608118345191],消息=[Hello Java demo RocketMQ ]
  4. 该消息已经重试3次,保存数据库。topic=[TagA],keys=[null],msg=[Hello Java demo RocketMQ ]
复制代码
超时重试

这里的超时异常并非真正意义上的超时，它指的是指获取消息后，因为某种原因没有给RocketMQ返回消费的状态，即没有return ConsumeConcurrentlyStatus.CONSUME_SUCCESS 或 return ConsumeConcurrentlyStatus.RECONSUME_LATER
那么 RocketMQ会认为该消息没有发送，会一直发送。因为它会认为该消息根本就没有发送给消费者,所以肯定没消费。
演示代码
  1. COPYpublic class RetryConsumer {
  2.     public static void main(String[] args) throws Exception {
  3.         //创建一个消息消费者，并设置一个消息消费者组
  4.         DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("rocket_test_consumer_group");
  5.         //指定 NameServer 地址
  6.         consumer.setNamesrvAddr("127.0.0.1:9876");
  7.         //设置 Consumer 第一次启动时从队列头部开始消费还是队列尾部开始消费
  8.         consumer.setConsumeFromWhere(ConsumeFromWhere.CONSUME_FROM_FIRST_OFFSET);
  9.         //订阅指定 Topic 下的所有消息
  10.         consumer.subscribe("topicTest", "*");
  12.         //注册消息监听器
  13.         consumer.registerMessageListener(new MessageListenerConcurrently() {
  14.             public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext context) {
  15.                 if (list != null) {
  16.                     for (MessageExt ext : list) {
  17.                         //获取消息重试次数
  18.                         int retryTimes = ext.getReconsumeTimes();
  19.                         try {
  20.                             String message = new String(ext.getBody(), RemotingHelper.DEFAULT_CHARSET);
  21.                             System.out.println("Consumer-线程名称=[" + Thread.currentThread().getId() + "],消息重试次数:[" + retryTimes + "],接收时间:[" + new Date().getTime() + "],消息=[" + message + "]");
  22.                         } catch (UnsupportedEncodingException e) {
  23.                             e.printStackTrace();
  24.                         }
  25.                     }
  26.                 }
  27.                 //这里睡眠60秒
  28.                 try {
  29.                     TimeUnit.SECONDS.sleep(60);
  30.                 } catch (InterruptedException e) {
  31.                     e.printStackTrace();
  32.                 }
  33.                 System.out.println("休眠60秒 看还能不能走到这里...");
  34.                 //  业务方正常消费
  35.                 return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  36.             }
  37.         });
  39.         // 消费者对象在使用之前必须要调用 start 初始化
  40.         consumer.start();
  41.         System.out.println("消息消费者已启动");
  42.     }
  43. }
复制代码
重试消息

当获得 当前消费重试次数为 = 0 后 , 关掉该进程。再重新启动该进程，那么依然能够获取该条消息
  1. COPYConsumer-线程名称=[33],消息重试次数:[0],接收时间:[1608118652598],消息=[Hello Java demo RocketMQ ]   
复制代码
重启消费者
  1. COPYConsumer-线程名称=[28],消息重试次数:[0],接收时间:[1608118683304],消息=[Hello Java demo RocketMQ ]
  2. 休眠60秒 看还能不能走到这里...
复制代码
重试消息的处理

一般情况下我们在实际生产中是不需要重试16次，这样既浪费时间又浪费性能，理论上当尝试重复次数达到我们想要的结果时如果还是消费失败，那么我们需要将对应的消息进行记录，并且结束重复尝试。
  1. COPYpublic class RetryConsumer {
  2.     public static void main(String[] args) throws Exception {
  3.         //创建一个消息消费者，并设置一个消息消费者组
  4.         DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("rocket_test_consumer_group");
  5.         //指定 NameServer 地址
  6.         consumer.setNamesrvAddr("127.0.0.1:9876");
  7.         //设置 Consumer 第一次启动时从队列头部开始消费还是队列尾部开始消费
  8.         consumer.setConsumeFromWhere(ConsumeFromWhere.CONSUME_FROM_FIRST_OFFSET);
  9.         //订阅指定 Topic 下的所有消息
  10.         consumer.subscribe("topicTest", "*");
  12.         //注册消息监听器
  13.         consumer.registerMessageListener(new MessageListenerConcurrently() {
  14.             public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext context) {
  15.                 if (list != null) {
  16.                     for (MessageExt ext : list) {
  17.                         //获取消息重试次数
  18.                         int retryTimes = ext.getReconsumeTimes();
  19.                         try {
  20.                             String message = new String(ext.getBody(), RemotingHelper.DEFAULT_CHARSET);
  21.                             System.out.println("Consumer-线程名称=[" + Thread.currentThread().getId() + "],消息重试次数:[" + retryTimes + "],接收时间:[" + new Date().getTime() + "],消息=[" + message + "]");
  22.                             //这里设置重试大于3次 那么通过保存数据库 人工来兜底
  23.                             if (retryTimes >= 2) {
  24.                                 System.out.println("该消息已经重试3次,保存数据库。topic=[" + ext.getTags() + "],keys=[" + ext.getKeys() + "],msg=[" + message + "]");
  25.                                 return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  26.                             }
  27.                         } catch (UnsupportedEncodingException e) {
  28.                             e.printStackTrace();
  29.                         }
  30.                     }
  31.                 }
  32.                 //主动抛出异常
  33.                 throw new RuntimeException("=======这里出错了============");
  34.                 //业务方正常消费
  35.                 //return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  36.             }
  37.         });
  39.         // 消费者对象在使用之前必须要调用 start 初始化
  40.         consumer.start();
  41.         System.out.println("消息消费者已启动");
  42.     }
  43. }
复制代码
所以任何异常都要捕获返回ConsumeConcurrentlyStatus.RECONSUME_LATER,rocketmq会放到重试队列,这个重试TOPIC的名字是%RETRY%+consumergroup的名字,如下图：
注意点

RocketMQ重试流程

重试队列与死信队列

在介绍RocketMQ的消费重试机制之前，需要先来说下“重试队列”和“死信队列”两个概念。
重试队列

如果Consumer端因为各种类型异常导致本次消费失败，为防止该消息丢失而需要将其重新回发给Broker端保存，保存这种因为异常无法正常消费而回发给MQ的消息队列称之为重试队列。RocketMQ会为每个消费组都设置一个Topic名称为“%RETRY%+consumerGroup”的重试队列（这里需要注意的是，这个Topic的重试队列是针对消费组，而不是针对每个Topic设置的），用于暂时保存因为各种异常而导致Consumer端无法消费的消息。考虑到异常恢复起来需要一些时间，会为重试队列设置多个重试级别，每个重试级别都有与之对应的重新投递延时，重试次数越多投递延时就越大。RocketMQ对于重试消息的处理是先保存至Topic名称为“SCHEDULE_TOPIC_XXXX”的延迟队列中，后台定时任务按照对应的时间进行Delay后重新保存至“%RETRY%+consumerGroup”的重试队列中。
死信队列

由于有些原因导致Consumer端长时间的无法正常消费从Broker端Pull过来的业务消息，为了确保消息不会被无故的丢弃，那么超过配置的“最大重试消费次数”后就会移入到这个死信队列中。在RocketMQ中，SubscriptionGroupConfig配置常量默认地设置了两个参数，一个是retryQueueNums为1（重试队列数量为1个），另外一个是retryMaxTimes为16（最大重试消费的次数为16次）。Broker端通过校验判断，如果超过了最大重试消费次数则会将消息移至这里所说的死信队列。这里，RocketMQ会为每个消费组都设置一个Topic命名为“%DLQ%+consumerGroup”的死信队列。一般在实际应用中，移入至死信队列的消息，需要人工干预处理；
Consumer端回发消息至Broker端

在业务工程中的Consumer端（Push消费模式下），如果消息能够正常消费需要在注册的消息监听回调方法中返回CONSUME_SUCCESS的消费状态，否则因为各类异常消费失败则返回RECONSUME_LATER的消费状态。消费状态的枚举类型如下所示：
  1. COPYpublic enum ConsumeConcurrentlyStatus {
  2.     //业务方消费成功
  3.     CONSUME_SUCCESS,
  4.     //业务方消费失败，之后进行重新尝试消费
  5.     RECONSUME_LATER;
  6. }
复制代码
如果业务工程对消息消费失败了，那么则会抛出异常并且返回这里的RECONSUME_LATER状态。这里，在消费消息的服务线程—consumeMessageService中，将封装好的消息消费任务ConsumeRequest提交至线程池—consumeExecutor异步执行。从消息消费任务ConsumeRequest的run()方法中会执行业务工程中注册的消息监听回调方法，并在processConsumeResult方法中根据业务工程返回的状态（CONSUME_SUCCESS或者RECONSUME_LATER）进行判断和做对应的处理。
CONSUME_SUCCESS

业务方正常消费
正常情况下，设置ackIndex的值为consumeRequest.getMsgs().size() - 1，因此后面的遍历consumeRequest.getMsgs()消息集合条件不成立，不会调用回发消费失败消息至Broker端的方法—sendMessageBack(msg, context)。最后，更新消费的偏移量；
RECONSUME_LATER

业务方消费失败
异常情况下，设置ackIndex的值为-1，这时就会进入到遍历consumeRequest.getMsgs()消息集合的for循环中，执行回发消息的方法—sendMessageBack(msg, context)。这里，首先会根据brokerName得到Broker端的地址信息，然后通过网络通信的Remoting模块发送RPC请求到指定的Broker上，如果上述过程失败，则创建一条新的消息重新发送给Broker，此时新消息的Topic为“%RETRY%+ConsumeGroupName”—重试队列的主题。其中，在MQClientAPIImpl实例的consumerSendMessageBack()方法中封装了ConsumerSendMsgBackRequestHeader的请求体，随后完成回发消费失败消息的RPC通信请求（业务请求码为：CONSUMER_SEND_MSG_BACK）。倘若上面的回发消息流程失败，则会延迟5S后重新在Consumer端进行重新消费。与正常消费的情况一样，在最后更新消费的偏移量；
Broker端对于回发消息处理的主要流程

Broker端收到这条Consumer端回发过来的消息后，通过业务请求码（CONSUMER_SEND_MSG_BACK）匹配业务处理器—SendMessageProcessor来处理。在完成一系列的前置校验（这里主要是“消费分组是否存在”、“检查Broker是否有写入权限”、“检查重试队列数是否大于0”等）后，尝试获取重试队列的TopicConfig对象（如果是第一次无法获取到，则调用createTopicInSendMessageBackMethod()方法进行创建）。根据回发过来的消息偏移量尝试从commitlog日志文件中查询消息内容，若不存在则返回异常错误。
然后，设置重试队列的Topic—“%RETRY%+consumerGroup”至MessageExt的扩展属性“RETRY_TOPIC”中，并对根据延迟级别delayLevel和最大重试消费次数maxReconsumeTimes进行判断，如果超过最大重试消费次数（默认16次），则会创建死信队列的TopicConfig对象（用于后面将回发过来的消息移入死信队列）。在构建完成需要落盘的MessageExtBrokerInner对象后，调用“commitLog.putMessage(msg)”方法做消息持久化。这里，需要注意的是，在putMessage(msg)的方法里会使用“SCHEDULE_TOPIC_XXXX”和对应的延迟级别队列Id分别替换MessageExtBrokerInner对象的Topic和QueueId属性值，并将原来设置的重试队列主题（“%RETRY%+consumerGroup”）的Topic和QueueId属性值做一个备份分别存入扩展属性properties的“REAL_TOPIC”和“REAL_QID”属性中。看到这里也就大致明白了，回发给Broker端的消费失败的消息并非直接保存至重试队列中，而是会先存至Topic为“SCHEDULE_TOPIC_XXXX”的定时延迟队列中。
疑问：上面说了RocketMQ的重试队列的Topic是“%RETRY%+consumerGroup”，为啥这里要保存至Topic是“SCHEDULE_TOPIC_XXXX”的这个延迟队列中呢？
在源码中搜索下关键字—“SCHEDULE_TOPIC_XXXX”，会发现Broker端还存在着一个后台服务线程—ScheduleMessageService（通过消息存储服务—DefaultMessageStore启动），通过查看源码可以知道其中有一个DeliverDelayedMessageTimerTask定时任务线程会根据Topic（“SCHEDULE_TOPIC_XXXX”）与QueueId，先查到逻辑消费队列ConsumeQueue，然后根据偏移量，找到ConsumeQueue中的内存映射对象，从commitlog日志中找到消息对象MessageExt，并做一个消息体的转换（messageTimeup()方法，由定时延迟队列消息转化为重试队列的消息），再次做持久化落盘，这时候才会真正的保存至重试队列中。看到这里就可以解释上面的疑问了，定时延迟队列只是为了用于暂存的，然后延迟一段时间再将消息移入至重试队列中。RocketMQ设定不同的延时级别delayLevel，并且与定时延迟队列相对应，具体源码如下：
  1. COPY//省略
  2. private String messageDelayLevel = "1s 5s 10s 30s 1m 2m 3m 4m 5m 6m 7m 8m 9m 10m 20m 30m 1h 2h";
  3. /**
  4.   * 定时延时消息主题的队列与延迟等级对应关系
  5.   * @param delayLevel
  6.   * @return
  7.   */
  8. public static int delayLevel2QueueId(final int delayLevel) {
  9.     return delayLevel - 1;
  10. }
复制代码
Consumer端消费重试机制

每个Consumer实例在启动的时候就默认订阅了该消费组的重试队列主题，DefaultMQPushConsumerImpl的copySubscription()方法中的相关代码如下：
  1. COPYprivate void copySubscription() throws MQClientException {
  2.             //省略其他代码...
  3.             switch (this.defaultMQPushConsumer.getMessageModel()) {
  4.                 case BROADCASTING:
  5.                     break;
  6.                 case CLUSTERING://如果消息消费模式为集群模式，还需要为该消费组对应一个重试主题
  7.                     final String retryTopic = MixAll.getRetryTopic(this.defaultMQPushConsumer.getConsumerGroup());
  8.                     SubscriptionData subscriptionData = FilterAPI.buildSubscriptionData(this.defaultMQPushConsumer.getConsumerGroup(),
  9.                         retryTopic, SubscriptionData.SUB_ALL);
  10.                     this.rebalanceImpl.getSubscriptionInner().put(retryTopic, subscriptionData);
  11.                     break;
  12.                 default:
  13.                     break;
  14.             }
  15.             //省略其他代码...
  16.       }
复制代码
因此，这里也就清楚了，Consumer端会一直订阅该重试队列主题的消息，向Broker端发送如下的拉取消息的PullRequest请求，以尝试重新再次消费重试队列中积压的消息。
  1. COPYPullRequest [consumerGroup=CID_JODIE_1, messageQueue=MessageQueue [topic=%RETRY%CID_JODIE_1, brokerName=HQSKCJJIDRRD6KC, queueId=0], nextOffset=51]
复制代码
最后，给出一张RocketMQ消息重试机制的框图（ps：这里只是描述了消息消费失败后重试拉取的部分重要过程）：

本文由传智教育博学谷狂野架构师教研团队发布。
如果本文对您有帮助，欢迎关注和点赞；如果您有任何建议也可留言评论或私信，您的支持是我坚持创作的动力。
转载请注明出处！

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！



欢迎光临 IT评测·应用市场-qidao123.com (https://dis.qidao123.com/) Powered by Discuz! X3.4