kettle优化解决办法

打印 上一主题 下一主题

主题 878|帖子 878|积分 2634

kettle优化解决办法

  1.    说下背景,在公司有9张表,每个表大约25万的数据量的excel表要定时更新到数据库表中,我做了定时任务,但是发现9张表在kettle要跑1个小时,忍受了2个月,实在顶不住这么慢的插入速度 。
  2.    现在网上有很多优化的办法,我觉得最重要的是使用kettle的连接池,连接池的解释如下
  3.    ![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/1b51fa4ce879449490cc1c293ee24603.png)
复制代码

在kettle,打开数据库编辑,毗连池,设置8,-1

方法二:在数据库毗连,选项那设置
rewriteBatchedStatements 为true。
defaultRowPrefetch为200。
defaultFetchSize为500
useCursorFetch为true
useCompression为 true
useServerPrepStmts为false。

这两个利用下来,速度起码提示10倍,


同样的内容,改完之后,1个半以上的跑数时间变成只有7分钟。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

伤心客

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表