MyBatis 批量插入使用 foreach 循环插入的优化，使用分片多线程
mhr18 2024-09-13 20:40 63 浏览 0 评论
在使用MyBatis进行批量插入数据时，我们常用的方法是在使用insert语句进行批量插入，这种方式在数据量比较少的时候，插入较快，但是当数据量较大的时候，不仅耗时，而且占用的CPU资源比较高。今天我们来对比说明一下，并在最后给出优化的方案。
先设计一张MySQL数据库，用来存储批量插入的数据，以插入用户信息为例，本次表在设计时多设计一些字段，在插入时的差异凸显的更加明显。
接下来我以插入50000条数据为例，由浅入深，分别从循环单条插入、批量插入等进行对比分析。
1、循环单条插入
模拟生成用户的姓名、手机号、身份证号码这些信息，避免因相同数据造成的缓存误差，然后逐条插入数据库中。
随机生成用户姓名：
随机生成11位手机号码：
随机生成身份证号码：
逐条插入用户数据的实现方法（使用JUnit进行单元测试），需要了解JUnit进行单元测试，可以访问上一篇文章SpringBoot框架集成JUnit单元测试：
插入完毕，查看控制台总耗时，以及数据库的数据入库情况：
执行总共耗时1634240ms，也就是27分钟左右。
2、使用foreach批量插入
在同等条件下进行测试验证，还是自动生成用户信息，封装成list，然后一次性插入。
这种方式相对于第一种方式，进行了提升，原理就是将
转换为
此时我们去执行程序发现，程序报错
如果我们将批量插入的50000条数据改成10000条，发现1秒左右就执行结束了。
从上面可以看出，使用foreach进行批量插入，原理上就是让多条insert into插入语句变成一条插入语句，可以带来性能上的提升，但同时也带来了两个问题：
（1）当插入的数据较多时，相当于拼接的sql语句会特别的长，甚至超过sql语句的长度，一旦超出，就会抛出异常导致无法插入。
（2）当插入的数据较多时，也比较耗时，针对这点官方也做了说明，这里我们就不做详细的拓展，我们继续讨论怎么解决这个问题。这里贴一张官方的说明截图。
这句话要表达的意思就是，当插入数量很多时，不能一次性全放在一条语句里。
3、使用foreach配合分片批量插入
既然不能封装成一条SQL，那我们考虑有没有其他的方式，当然有，可以采用分片的方式。
主要原理就是将list集合按"指定长度"进行切分，返回新的List<List<类型>>集合。
可以看出，50000条数据，不到2秒钟就插入完成，大大提高了效率。
这里分片的目的有两个：
1、批量插入，拼接的SQL语句过长，sql语句会有限制；
2、分片后采用stream多线程并行插入可以提高效率；
此外，不管是mysql还是oracle数据库，都可以使用分片进行插入。
相关推荐
- 如何检查 Linux 服务器是物理服务器还是虚拟服务器?
-
在企业级运维、故障排查和性能调优过程中，准确了解服务器的运行环境至关重要。无论是物理机还是虚拟机，都存在各自的优势与限制。在很多场景下，尤其是当你继承一台服务器而不清楚底层硬件细节时，如何快速辨识它是...
- 第四节 Windows 系统 Docker 安装全指南
-
一、Docker在Windows上的运行原理（一）架构限制说明Docker本质上依赖Linux内核特性（如Namespaces、Cgroups等），因此在Windows系统上无法直...
- C++ std:shared_ptr自定义allocator引入内存池
-
当C++项目里做了大量的动态内存分配与释放，可能会导致内存碎片，使系统性能降低。当动态内存分配的开销变得不容忽视时，一种解决办法是一次从操作系统分配一块大的静态内存作为内存池进行手动管理，堆对象内存分...
- Activiti 8.0.0 发布，业务流程管理与工作流系统
-
Activiti8.0.0现已发布。Activiti是一个业务流程管理(BPM)和工作流系统，适用于开发人员和系统管理员。其核心是超快速、稳定的BPMN2流程引擎。Activiti可以...
- MyBatis动态SQL的5种高级玩法，90%的人只用过3种
-
MyBatis动态SQL在日常开发中频繁使用，但大多数开发者仅掌握基础标签。本文将介绍五种高阶技巧，助你解锁更灵活的SQL控制能力。一、智能修剪（Trim标签）应用场景：动态处理字段更新，替代<...
- Springboot数据访问(整合Mybatis Plus)
-
Springboot整合MybatisPlus1、创建数据表2、引入maven依赖mybatis-plus-boot-starter主要引入这个依赖，其他相关的依赖在这里就不写了。3、项目结构目录h...
- 盘点金州勇士在奥克兰13年的13大球星 满满的全是...
-
见证了两个月前勇士与猛龙那个史诗般的系列赛后，甲骨文球馆正式成为了历史。那个大大的红色标志被一个字母一个字母地移除，在周四，一切都成为了过去式。然而这座，别名为“Roaracle”（译注：Roar怒吼...
- Mybatis入门看这一篇就够了（mybatis快速入门）
-
什么是MyBatisMyBatis本是apache的一个开源项目iBatis,2010年这个项目由apachesoftwarefoundation迁移到了googlecode，并且改名为M...
- Springboot数据访问(整合druid数据源)
-
Springboot整合druid数据源基本概念SpringBoot默认的数据源是：2.0之前：org.apache.tomcat.jdbc.pool.DataSource2.0及之后:com.z...
- Linux 中的 "/etc/profile.d" 目录有什么作用 ?
-
什么是/etc/profile.d/目录？/etc/profile.d/目录是Linux系统不可或缺的一部分保留配置脚本。它与/etc/profile文件相关联，这是一个启动脚本，该脚...
- 企业数据库安全管理规范（企业数据库安全管理规范最新版）
-
1.目的为规范数据库系统安全使用活动，降低因使用不当而带来的安全风险，保障数据库系统及相关应用系统的安全，特制定本数据库安全管理规范。2.适用范围本规范中所定义的数据管理内容，特指存放在信息系统数据库...
- Oracle 伪列!这些隐藏用法你都知道吗?
-
在Oracle数据库中，有几位特殊的“成员”——伪列，它们虽然不是表中真实存在的物理列，但却能在数据查询、处理过程中发挥出意想不到的强大作用。今天给大家分享Oracle伪列的使用技巧，无论...
- Oracle 高效处理数据的隐藏神器:临时表妙用
-
各位数据库搬砖人，在Oracle的代码世界里闯荡，处理复杂业务时，是不是总被数据“搅得头大”？今天给大家安利一个超实用的隐藏神器——临时表！当你需要临时存储中间计算结果，又不想污染正式数据表...
- Oracle 数据库查询:多表查询（oracle多表关联查询）
-
一、多表查询基础1.JOIN操作-INNERJOIN：返回两个表中满足连接条件的匹配行，不保留未匹配数据。SELECTa.emp_id,b.dept_nameFROMempl...
- 一文掌握怎么利用Shell+Python实现多数据源的异地备份程序
-
简介：在信息化时代，数据安全和业务连续性已成为企业和个人用户关注的焦点。无论是网站数据、数据库、日志文件，还是用户上传的文档、图片等，数据一旦丢失，损失难以估量。尤其是当数据分布在多个不同的目录、服务...
欢迎 你 发表评论:
- 一周热门
- 最近发表
-
- 如何检查 Linux 服务器是物理服务器还是虚拟服务器?
- 第四节 Windows 系统 Docker 安装全指南
- C++ std:shared_ptr自定义allocator引入内存池
- Activiti 8.0.0 发布，业务流程管理与工作流系统
- MyBatis动态SQL的5种高级玩法，90%的人只用过3种
- Springboot数据访问(整合Mybatis Plus)
- 盘点金州勇士在奥克兰13年的13大球星 满满的全是...
- Mybatis入门看这一篇就够了（mybatis快速入门）
- Springboot数据访问(整合druid数据源)
- Linux 中的 "/etc/profile.d" 目录有什么作用 ?
- 标签列表
-
- oracle位图索引 (74)
- oracle基目录 (50)
- oracle批量插入数据 (65)
- oracle事务隔离级别 (53)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)