
springboot+mybatis+mysql批量新增数据时,避免数据过大引发oom
在批量新增数据到数据库时,由于数据量不确定,可能导致出现oom(内存溢出)问题。以下是如何避免这种问题的解决方案:
解决方案:分批保存
1. 代码优化
提供的代码在处理最后一段数据时,需要单独处理。可以对代码进行如下优化:
public void insert(list<user> list) {
int count = 10000; // 每次处理数据量
int pagesize = list.size() % count == 0 ? list.size() / count : list.size() / count + 1;
for(int i=0; i<pagesize; i++){
list<integer> list1 = list.sublist(i * count, (i + 1) * count <= list.size() ? (i + 1) * count : list.size());
usermapper.insert(list1); // 每次传count数量的数据到mapper方法里
}
}2. 更优方法:批量更新sql
安装、修复、更新或打包一个基于 Python 和 PyMySQL 实现的 Windows `mysql` 命令。适用于用户希望在 PowerShell/CMD 中输入 `mysql` 时重定向到 Python 实现、需要交互式输入 MySQL 连接信息、需要同步到当前用户本地 bin 目录,或需要将该能力封装成可公开复用的 Codex skill。
除了分批保存之外,还可以使用批量更新sql来更有效地插入数据。
INSERT INTO user (name, age) VALUES (?, ?), (?, ?), ... (?, ?);
通过将多条insert语句组合成单个批量语句,可以显着减少数据库交互次数,从而提高性能。
不要过度规范数据量的大小,应该根据实际业务情况和系统资源情况来决定。同时,也要注意监控系统内存使用情况,避免超出限制。

















