论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
应用中心
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
IT评测·应用市场-qidao123.com技术社区
»
论坛
›
数据库
›
Oracle
›
Flink难点和高频考点:Flink的反压产生缘故原由、排查思 ...
Flink难点和高频考点:Flink的反压产生缘故原由、排查思路、优化步伐和监控 ...
尚未崩坏
论坛元老
|
2024-10-31 22:56:40
|
显示全部楼层
|
阅读模式
楼主
主题
1884
|
帖子
1884
|
积分
5652
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
目录
反压界说
反压影响
WebUI监控
Metrics指标
backPressureTimeMsPerSecond
idleTimeMsPerSecond
busyTimeMsPerSecond
反压可视化
资源优化
算子优化
数据倾斜优化
复杂算子优化
背压机制
反压防备
性能调优
内置工具
第三方工具
反压界说
在探讨Flink的性能优化时,我们首先需要理解反压这一关键概念。
反压
是指在Flink数据流处置惩罚中,当上游算子的生产速率凌驾下游算子的消耗能力时,导致数据积累的一种现象。这种环境通常发生在数据处置惩罚管道中的瓶颈处,可能是由于计算资源不足、网络耽误或其他性能限定因素引起的。
为了应对反压,Flink采取了信用为基础(Credit-based)的反压机制,在1.5版本后引入,该机制通过ResultPartition和InputGate之间传递反馈信息来动态调节数据传输速率,从而有效控制反压的流传。这种机制类似于TCP协议中的窗口机制,能够更好地适应不同场景下的数据处置惩罚需求,提高体系的团体吞吐量和稳定性。
反压影响
在探讨Flink作业的性能优化时,反压是一个不容忽视的紧张因素。它不仅会导致
作业耽误增长
,还会明显
降低团体处置惩罚速度
。特别是在处置惩罚大规模状态作业时,反压可能导致
算子频繁访问磁盘存储的状态数据
,进一步加剧性能瓶颈。
此外,长期存在的反压题目还可能引发
资源耗尽
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复
使用道具
举报
0 个回复
正序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
发新帖
回复
尚未崩坏
论坛元老
这个人很懒什么都没写!
楼主热帖
读高性能MySQL(第4版)笔记01_MySQL架 ...
SQL Server向表中插入数据
鸿蒙DevEco Studio3.0——开发环境搭建 ...
容器开发运维人员的 Linux 操作机配置 ...
Redis命令手册
关于对四维空间一些理解
Webpack的使用
Triple 协议支持 Java 异常回传的设计 ...
0基础下载并安装SQLite并新建数据库 ...
.NET现代化应用开发 - CQRS&类目管理代 ...
标签云
集成商
AI
运维
CIO
存储
服务器
登录参与点评抽奖加入IT实名职场社区
下次自动登录
忘记密码?点此找回!
登陆
新用户注册
用其它账号登录:
关闭
快速回复
返回顶部
返回列表