ToB企服应用市场:ToB评测及商务社交产业平台

标题: 同事使用 insert into select 迁移数据，开开心心上线，上线后被公司开除！ [打印本页]
作者: 笑看天下无敌手    时间: 2024-5-19 10:48
标题: 同事使用 insert into select 迁移数据，开开心心上线，上线后被公司开除！
作者：xlecho
链接：https://juejin.cn/post/6931890118538199048
血一般的教训，请慎用 insert into select。同事应用之后，导致公司丧失了近10w元，最终被公司开除。
事情的起因

公司的交易量比力大，使用的数据库是mysql，每天的增量差不多在百万左右，公司并没有分库分表，所以想维持这个表的性能只能考虑做数据迁移。
同事李某接到了这个任务，于是他想出了这两个方案
第一个方案使用的时候发现一次性全部加载，系统直接就OOM了，但是分批次做就过多io和时间长，于是选用了第二种方案，测试的时候没有任何问题，开开心心上线，然后被开除。
推荐一个开源免费的 Spring Boot 实战项目：
https://github.com/javastacks/spring-boot-best-practice
到底发生了啥，我们复盘一下

先来看第一个方案，先看伪代码
  1. // 1、查询对应需要迁移的数据
  2. List<Object> list = selectData();
  4. // 2、将数据插入历史表
  5. insertData(list);
  7. // 3、删除原表数据
  8. deleteByIds(ids);
复制代码
我们可以从这段代码中看到，OOM的缘故原由很简单，我们直接将数据全部加载内存，内存不爆才怪。
再来看看第二个方案，到底发生了啥。
为了维持表的性能，同时保留有效数据，经过探讨定了一个量，保留10天的数据，差不多要在表里面保留1kw的数据。所以同事就做了一个时间筛选的操作，直接insert into select ... dateTime < (Ten days ago)，爽极了，直接就避免了要去分页查询数据，这样就不存在OOM啦。还简化了很多的代码操作，减少了网络问题。
为了测试，还特意建了1kw的数据来模拟，测试环境当然是没有问题啦，顺利通过。考虑到这个表是一个付出流水表，于是将这个任务做成定时任务，并且定在晚上8点执行。
晚上量也不是很大，自然是没有什么问题，但是第二天公司财政上班，开始对账，发现资金对不上，很多流水都没有入库。最终排查发现晚上8点之后，陆连续续开始出现付出流水插入失败的问题，很多数据因此丢失。最终定位到了是迁移任务引起的问题，刚开始还不明所以，白天没有问题，然后想到晚上出现这样的环境大概是晚上的任务出现了影响，末了停掉该任务的第二次上线，发现没有了这样的环境。
复盘

问题在哪里？

为什么停掉迁移的任务之后就好了呢？这个insert into select操作到底做了什么？我们来看看这个语句的explain。

我们不难从图中看出，这个查询语句直接走了全表扫描。这个时候，我们不难猜想到一点点问题。如果全表扫描，我们这个表这么大，是不是意味着迁移的时间会很长？倘使我们这个迁移时间为一个小时，那是不是意味着就表明了我们白天没有出现这样问题的缘故原由了。但是全表扫描是最根本的缘故原由吗？
我们不妨试试，一边迁移，一边做些的操作，还原现场。最终还是会出现这样的问题。这个时候，我们可以调解一下，大胆假设，如果不全表扫描，是不是就不会出现这样的问题。当我们将条件修改之后，果然发现没有走了全表扫描了。
最终再次还原现场，问题解决了

得出结论：全表扫描导致了这次变乱的发生。
这样做就解决了发生的问题，但是做为陆连续续开始失败这个就不好表明了。
缘故原由

在默认的事务隔离级别下：insert into a select b的操作a表示直接锁表，b表是逐条加锁。这也就表明了为什么出现连续的失败的缘故原由。在逐条加锁的时候，流水表由于多数是复合记录，所以最终部分在扫描的时候被锁定，部分拿不到锁，最终导致超时大概直接失败，还有一些在这加锁的过成功成功了。
为什么测试没有问题？

在测试的时候充分的使用了正式环境的数据来测试，但是别忽视一个问题，那就是测试环境究竟是测试环境，在测试的时候，数据量真实并不代表就是真实的业务场景。比方说，这个环境里面就少了一个迁移的时候，大量数据的插入这样的环境。最终导致线上bug
解决办法

既然我们避免全表扫描就可以解决，我们避免它就行了。想要避免全表扫描，对where后面的条件做索引，让我们的select查询都走索引即可
insert into还能用吗？

可以
总结

使用insert into select的时候请慎重，一定要做好索引。
更多文章推荐：
1.Spring Boot 3.x 教程，太全了！
2.2,000+ 道 Java面试题及答案整理(2024最新版)
3.免费获取 IDEA 激活码的 7 种方式（2024最新版）
以为不错，别忘了顺手点赞+转发哦！

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。



欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) Powered by Discuz! X3.4