道家人 发表于 2023-8-31 16:08:23

13 秒插入 30 万条数据,我惊呆了!

本文主要讲述通过MyBatis、JDBC等做大数据量数据插入的案例和结果。
30万条数据插入插入数据库验证


[*]实体类、mapper和配置文件定义
[*]

[*]User实体
[*]mapper接口
[*]mapper.xml文件
[*]jdbc.properties
[*]sqlMapConfig.xml

[*]不分批次直接梭哈
[*]循环逐条插入
[*]MyBatis实现插入30万条数据
[*]JDBC实现插入30万条数据
[*]总结
验证的数据库表结构如下:
CREATE TABLE `t_user` (
`id` int(11) NOT NULL AUTO_INCREMENT COMMENT '用户id',
`username` varchar(64) DEFAULT NULL COMMENT '用户名称',
`age` int(4) DEFAULT NULL COMMENT '年龄',
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COMMENT='用户信息表';话不多说,开整!
推荐一个开源免费的 Spring Boot 实战项目:
https://github.com/javastacks/spring-boot-best-practice
实体类、mapper和配置文件定义

User实体
/**
* <p>用户实体</p>
*
* @Author zjq
*/
@Data
public class User {

    private int id;
    private String username;
    private int age;

}mapper接口
public interface UserMapper {

    /**
   * 批量插入用户
   * @param userList
   */
    void batchInsertUser(@Param("list") List<User> userList);

}mapper.xml文件
<insert id="batchInsertUser" parameterType="java.util.List">
    insert into t_user(username,age) values
    <foreach collection="list" item="item" index="index" separator=",">
      (
      #{item.username},
      #{item.age}
      )
    </foreach>
</insert>jdbc.properties
jdbc.driver=com.mysql.jdbc.Driver
jdbc.url=jdbc:mysql://localhost:3306/test
jdbc.username=root
jdbc.password=rootsqlMapConfig.xml
<?xml version="1.0" encoding="UTF-8" ?>
<!DOCTYPE configuration PUBLIC "-//mybatis.org//DTD Config 3.0//EN" "http://mybatis.org/dtd/mybatis-3-config.dtd">
<configuration>

   
    <properties resource="jdbc.properties"></properties>

   
    <typeAliases>
      <typeAlias type="com.zjq.domain.User" alias="user"></typeAlias>
    </typeAliases>

   
    <environments default="developement">
      <environment id="developement">
            <transactionManager type="JDBC"></transactionManager>
            <dataSource type="POOLED">
                <property name="driver" value="${jdbc.driver}"/>
                <property name="url" value="${jdbc.url}"/>
                <property name="username" value="${jdbc.username}"/>
                <property name="password" value="${jdbc.password}"/>
            </dataSource>
      </environment>
    </environments>

   
    <mappers>
      <mapper resource="com/zjq/mapper/UserMapper.xml"></mapper>
    </mappers>

</configuration>不分批次直接梭哈

MyBatis直接一次性批量插入30万条,代码如下:
@Testpublic void testBatchInsertUser() throws IOException {    InputStream resourceAsStream =            Resources.getResourceAsStream("sqlMapConfig.xml");    SqlSessionFactory sqlSessionFactory = new SqlSessionFactoryBuilder().build(resourceAsStream);    SqlSession session = sqlSessionFactory.openSession();    System.out.println("===== 开始插入数据 =====");    long startTime = System.currentTimeMillis();    try {      List userList = new ArrayList();      for (int i = 1; i yun 4194304). You can change this value on the server by setting the max_allowed_packet’ variable.</p></blockquote>https://img2023.cnblogs.com/other/1218593/202308/1218593-20230823141555725-972296893.png

超出最大数据包限制了,可以通过调整max_allowed_packet限制来提高可以传输的内容,不过由于30万条数据超出太多,这个不可取,梭哈看来是不行了
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
页: [1]
查看完整版本: 13 秒插入 30 万条数据,我惊呆了!