Apache SeaTunnel 2.3.8版本正式发布!

打印 上一主题 下一主题

主题 1396|帖子 1396|积分 4188


Apache SeaTunnel 2.3.8 版本现已正式发布!此次版本后,用户将可以使用期待已久的Docker镜像,还可以体验Job级别日志功能,以及其他更新优化的功能。本文将详细介绍 Apache SeaTunnel 2.3.8 版本中的关键更新内容,欢迎更多开发者和用户参与到我们的开源社区中来。
重点更新

Job级别日志

此次更新中,我们对日志功能举行了优化,在之前的版本中,多个任务的日志都在一个文件中打印,当同时运行多个任务后,多个任务的日志交织在一起,未便于排查问题。
此次更新支持两种方式的配置,以实现更加高效的日志查询。
第一种是在每行日志中添加JobId,从而可以过滤查询出每个日志单独的日志;

第二种是根据JobId拆分文件,只需修改日志配置文件,就可以每一个JobId打印单独的日志文件。

新增Docker镜像

此次更新中,添加了官方的镜像支持,在镜像中添加了全部的毗连器,用户无需下载安装包,可以直接通过拉取镜像,更加方便地运行SeaTunnel,减小部署的复杂度,同时精简使用K8S部署的用户操纵流程。

而对于有定制化需求,需要二次开发的用户,新版本也提供了一键式打包构建镜像的命令:

Flink/Spark引擎支持多表

之前的版本中,多表读取,写入的功能仅在Zeta引擎上举行了支持,此次更新后,Spark/Flink引擎也可以举行多表读取和写入。
适配 Prometheus 举行集群监控

此前,用户需要通过API来获取集群/任务的指标。现在,用户可以将指标举行导出到Prometheus上,Prometheus将定期拉取SeaTunnel的集群任务状态,并以可视化界面展示出来,以更便利地监控集群的状态,及时发现问题。

添加Typesense毗连器支持

新增加对Typesense毗连器的支持。
改进和优化

添加Embedding transform

通过Embedding transform,SeaTunnel支持将机器学习模子嵌入到数据转换过程中,把原始字段转换成向量值,再存储到相应的机器学习数据库。目前,SeaTunnel支持的机器学习模子提供商包括豆包、千帆、OpenAI,将来还将添加更多机器学习模子支持。
Kafka支持读取/写入Protobuf类型数据

增强了Kafka毗连器对Protobuf数据格式的支持,在Kafka毗连器下增加对Protobuf数据类型的定义,可以举行数据读取和写入。
文件支持读取压缩包

增加了对压缩文件格式的读取支持,省去了解压缩的步骤。
更加细粒度的资源加载隔离

支持将ClassLoader从任务组级别的隔离优化为任务级别,从而制止Source/Sink使用雷同ClassLoader时可能造成的依赖冲突。
其他优化还包括:

  • Paimon流失读取和动态桶的写入支持
  • SQL嵌套查询支持查询Map布局字段
  • Iceberg的相干优化
  • 支持Kerberos认证
  • SaveMode添加IGNORE类型
  • 对于Redis不同版本的读取适配优化
  • MySQL 8.1/8.2/8/3版本的适配
  • 支持TiDB的CDC读取
  • 移除JDBC相干毗连器中体系表的限制
  • 为全部毗连器添加变乱通知功能
  • ES毗连器支持多表读取的功能
  • HBase毗连器添加多表写入的功能
关键问题修复


  • 修复Hazelcast在非TCP毗连时的组网问题
  • 修复资源隔离的问题
  • 修复Paimon Dynamic Bucket表,以及Decimal精度丢失的相干问题
  • 修复Iceberg任务结束资源未关闭的问题
详细更新情况请参考Release Notehttps://github.com/apache/seatunnel/releases/tag/2.3.8
致谢贡献者

感谢@liunaijie对本次发版工作的指导和资助,同时感谢以下社区成员的共同努力,让本次发版工作顺利完成:
hailin0, hawk9821, cl0924, sunxiaojian, dailai, corgy-w, Hisoka-X, liunaijie, chl-wxp, zhangshenghang, ISADBA, loustler, chenqianwen, FuYouJ, xxsc0529, EricJoy2048, ZhangWeike2000, jw-itq, kevinjmh, Carl-Zhou-CN, FlechazoW, PeppaPage, liugddx, Cheun99, happyboy1024, CosmosNi, Anush008, BruceWong96, zqr10159, cloud456, Gxinge, xxsc0529, luzongzhu, jiamin13579, Zuhdan, yujian225
本文由 白鲸开源 提供发布支持!

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

小小小幸运

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表