Flink难点和高频考点:Flink的反压产生缘故原由、排查思路、优化步伐和监控 ...

打印 上一主题 下一主题

主题 1883|帖子 1883|积分 5649

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
目录

反压界说
反压影响
WebUI监控
Metrics指标
backPressureTimeMsPerSecond
idleTimeMsPerSecond
busyTimeMsPerSecond
反压可视化
资源优化
算子优化
数据倾斜优化
复杂算子优化
背压机制
反压防备
性能调优
内置工具
第三方工具


反压界说

在探讨Flink的性能优化时,我们首先需要理解反压这一关键概念。 反压 是指在Flink数据流处置惩罚中,当上游算子的生产速率凌驾下游算子的消耗能力时,导致数据积累的一种现象。这种环境通常发生在数据处置惩罚管道中的瓶颈处,可能是由于计算资源不足、网络耽误或其他性能限定因素引起的。
为了应对反压,Flink采取了信用为基础(Credit-based)的反压机制,在1.5版本后引入,该机制通过ResultPartition和InputGate之间传递反馈信息来动态调节数据传输速率,从而有效控制反压的流传。这种机制类似于TCP协议中的窗口机制,能够更好地适应不同场景下的数据处置惩罚需求,提高体系的团体吞吐量和稳定性。
反压影响

在探讨Flink作业的性能优化时,反压是一个不容忽视的紧张因素。它不仅会导致 作业耽误增长 ,还会明显 降低团体处置惩罚速度 。特别是在处置惩罚大规模状态作业时,反压可能导致 算子频繁访问磁盘存储的状态数据 ,进一步加剧性能瓶颈。
此外,长期存在的反压题目还可能引发 资源耗尽

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

尚未崩坏

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表