论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
IT评测·应用市场-qidao123.com技术社区
»
论坛
›
物联网
›
物联网
›
Kafka 消息幂等与业务幂等的关系分析
Kafka 消息幂等与业务幂等的关系分析
万万哇
论坛元老
|
4 天前
|
来自手机
|
显示全部楼层
|
阅读模式
楼主
主题
1676
|
帖子
1676
|
积分
5028
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
一、概念定义
Kafka 消息幂等
指生产者发送消息时,通过服务端机制确保同一分区内的消息不会重复存储,属于传输层保障。
实现方式:
每个生产者分配全局唯一 PID(Producer ID)
消息携带递增的 Sequence Number(序列号)
Broker 通过 PID + 分区号 + Sequence Number 过滤重复消息
业务幂等
指业务逻辑对重复操作的处理效果保持同等,属于应用层保障。
例如:
支付系统中重复扣款请求仅生效一次
订单系统对同一订单号多次提交仅生成一个订单
实现方式:
数据库唯一约束(如唯一索引)
请求唯一标识(如 Token 或 UUID)
乐观锁版本控制
二、两者的区别
维度
Kafka 消息幂等
业务幂等
作用层级
消息传输层(Producer → Broker)
业务逻辑层(Consumer 处理消息后)
保障范围
同一生产者会话内、同一分区消息不重复
所有大概的重复操作(跨生产者、跨分区等)
失效场景
生产者实例重启导致 PID 变动
未设计幂等机制的业务逻辑
实现依靠
依靠 Kafka 服务端机制
依靠业务代码或数据库设计
三、协作关系
互补性
Kafka 消息幂等淘汰消息重复概率,但无法完全消除(如消费者重复消费、业务逻辑重试)
业务幂等作为最终防线,确保纵然消息重复到达,业务效果仍同等
典型场景示例
Producer → Kafka(消息幂等过滤) → Consumer → 业务处理(业务幂等兜底)
若 Kafka 未启用幂等性,生产者重试大概导致重复消息进入 Broker
纵然 Kafka 启用幂等性,消费者大概因故障重启触发重复消费
必须结合利用的缘故因由
Kafka 幂等性仅覆盖消息传输阶段,无法解决以下题目:
消费者重复提交 Offset 导致消息重复拉取
业务逻辑中非消息触发的重复操作(如用户重复点击)
四、设计发起
Kafka 层
生产者配置 enable.idempotence=true 启用消息幂等
配合事务机制实现跨分区原子性(如 Exactly-Once 语义)
业务层
关键操作需设计幂等逻辑(如订单号唯一索引)
利用去重表或状态机跟踪已处理请求
总结
Kafka 消息幂等与业务幂等是差别层级的互补机制:
Kafka 消息幂等解决消息传输过程中的重复题目,降低业务层压力;
业务幂等作为兜底保障,覆盖所有大概的重复场景。
两者需结合利用才能实现完备的 Exactly-Once 语义。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
万万哇
论坛元老
这个人很懒什么都没写!
楼主热帖
markdown day 01
Linux系统调用四、lseek()函数详解 ...
Nacos注册中心-----从0开始搭建和使用 ...
ClickHouse(05)ClickHouse数据类型详解 ...
基于CSDN云和docker全家桶的微服务项目 ...
【云原生】Docker 进阶 -- 数据卷使用 ...
100天精通Python(进阶篇)——第39天 ...
应急救灾物资行业标准与规范 ...
阿里云域名购买流程以及免费证书的申请 ...
谈谈技术能力
标签云
AI
运维
CIO
存储
服务器
浏览过的版块
网络安全
快速回复
返回顶部
返回列表