问题出现
在spring boot集成kafka时报错,报错信息:
- No Acknowledgment available as an argument, the listener container must have a MANUAL AckMode to populate the Acknowledgment.
复制代码 翻译: Acknowledgment 参数不可用,监听容器需要设置一个手动的 AckMode 才能添补Acknowledgment。
问题代码:
- @KafkaListener(topics = PENDING_TOPIC, groupId = KafkaProducer.TOPIC_GROUP1)
- public void topic_test(ConsumerRecord<?, ?> record, Acknowledgment ack, @Header(KafkaHeaders.RECEIVED_TOPIC) String topic) {
- Optional message = Optional.ofNullable(record.value());
- if (message.isPresent()) {
- Object msg = message.get();
- logger.info("topic.group1 消费了: Topic:" + topic + ",Message:" + msg);
- ack.acknowledge();
- }
- }
复制代码 这是参考其他人的消耗者端的代码,方法里有Acknowledgment 范例参数,说明该参数没有被识别。首先查一下这个参数的含义。
问题分析
Acknowledgment 范例参数的含义:
控制消息的确认机制。在kafka中,消耗者提交偏移量时需要确认,执行ack.acknowledge();后代表告诉 Kafka 消耗者组,当前的消息已经被成功处理并且可以提交偏移量。这意味着消耗者不会再次处理这条消息。
Spring-kafka 提供了多种确认机制,也就是 AckMode。官方文档表现AckMode 有以下几种:
- RECORD: 当监听器处理完记载返回时,提交偏移量.
- BATCH: 处理完 poll() 返回的全部记载后,提交偏移量。
- TIME: 当poll()返回的全部记载都已处理完毕后,只要超过上次提交后的 ackTime,就提交偏移量。
- COUNT: 当poll()返回的全部记载都已处理完毕后,只要上次提交后已收到 ackCount 记载,就提交偏移量。
- COUNT_TIME: 与 TIME 和 COUNT 类似,但如果任一条件为真,都会执行提交。
- MANUAL: 处理完一批数据后,手动调用 Acknowledgment.acknowledge()方法将offest提交至缓存,之后在下一个poll() 之前用BATCH 方式提交。
- MANUAL_IMMEDIATE: 当监听器调用 Acknowledgment.acknowledge() 方法时,立即提交偏移量。
报错缘故原由:
从上面的会合确认机制中可以看到,只有MANUAL 和MANUAL_IMMEDIATE 用到了Acknowledgment 其他都没有。以是需要把AckMode 配置成这两个其中一个才行,而查看配置文件发现我确实没有配。
解决办法:
在application.yaml 中配置ack-mode: manual_immediate 。
在自界说配置AckMode 的时候,首先需要将enable-auto-commit 设置成false 才行,2.3版本之后默认是false,不过利用的默认机制是BATCH,以是还需要将ack-mode设成manual_immediate 来覆盖默认配置。
- spring:
- kafka:
- bootstrap-servers: localhost:9092
- consumer:
- auto-offset-reset: earliest
- key-deserializer: org.apache.kafka.common.serialization.StringDeserializer
- # 值的反序列化方式
- value-deserializer: org.apache.kafka.common.serialization.StringDeserializer
- group-id: geo-friend
- enable-auto-commit: false # 设置成手动提交
- auto-commit-interval: 1S
- producer:
- key-serializer: org.apache.kafka.common.serialization.StringSerializer
- value-serializer: org.apache.kafka.common.serialization.StringSerializer
- listener: # 配置监听容器的ackmode
- concurrency: 5
- ack-mode: manual_immediate
- missing-topics-fatal: false
复制代码 参考资料:
spring-kafka 文档:https://docs.spring.io/spring-kafka/docs/2.8.2/reference/html/#committing-offsets
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。 |