讲师中心 微信公众号

工具推荐

视频效率加速
立刻MV
立刻MV

低成本歌曲 MV、视频生成

Laper
Laper

剧本策划到成片协作

SoundView
SoundView

字幕擦除翻译、配音口型同步

剧云
剧云

中文短剧剧本制作平台

Java JDBC 事务管理怎么实现批量操作数据拆分

阿晨吖_6137

阿晨吖_6137

发布时间:2026-11-17 11:45:25

|

472人浏览过

|

来源于php中文网

原创

java jdbc 实现批量操作数据拆分,核心在于利用 connection 的自动提交关闭、statement.addbatch() 累积 sql 以及 executebatch() 执行与回滚机制。具体做法是开启事务后分批添加语句,达到阈值时执行并清空批次,若中途失败则通过 rollback() 保证原子性。

Java JDBC 事务管理怎么实现批量操作数据拆分

JDBC 事务中如何控制批量操作的边界

在 JDBC 中,默认情况下每个 SQL 语句都是一个独立的事务。要实现批量操作的拆分,必须显式调用 connection.setAutoCommit(false) 来关闭自动提交。这样,所有后续的 addBatch 和 executeBatch 操作都会暂存在数据库端或驱动内存中,直到调用 commit() 才真正生效。如果在这个过程中发生异常,可以调用 connection.rollback() 撤销整个批次的变更,确保数据一致性。

Java JDBC 事务管理怎么实现批量操作数据拆分

import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.SQLException;

public class BatchSplitter {
    public static void main(String[] args) {
        String url = "jdbc:mysql://localhost:3306/test";
        String user = "root";
        String password = "password";
        int batchSize = 1000; // 每批处理1000条
        
        try (Connection conn = DriverManager.getConnection(url, user, password)) {
            conn.setAutoCommit(false);
            String sql = "INSERT INTO users (name, email) VALUES (?, ?)";
            
            // 使用 PreparedStatement 进行批量插入
            java.sql.PreparedStatement pstmt = conn.prepareStatement(sql);
            
            for (int i = 0; i < 10005; i++) { // 模拟10005条数据
                pstmt.setString(1, "User_" + i);
                pstmt.setString(2, "user_" + i + "@example.com");
                pstmt.addBatch();
                
                // 当批次数量达到阈值时,执行并提交当前批次
                if ((i + 1) % batchSize == 0) {
                    pstmt.executeBatch();
                    conn.commit(); // 提交当前批次
                    pstmt.clearBatch(); // 清空批次,防止内存溢出
                    System.out.println("Processed batch: " + ((i + 1) / batchSize));
                }
            }
            
            // 处理剩余的数据
            if (pstmt.getMaxRows() != 0 || pstmt.getUpdateCount() != -1) {
                 pstmt.executeBatch();
                 conn.commit();
            }
            
            pstmt.close();
        } catch (SQLException e) {
            System.err.println("Error occurred: " + e.getMessage());
            // 实际生产中应在 catch 块中调用 rollback
        }
    }
}

上述代码展示了如何将 10005 条数据拆分为多个批次。关键点在于 setAutoCommit(false) 开启了事务上下文,addBatch 将 SQL 加入队列,而 executeBatch 配合 commit 实现了分批持久化。这种模式避免了一次性加载所有数据导致的内存溢出(OOM),同时也减少了网络往返次数。

立即学习“Java免费学习笔记(深入)”;

Build Java agent transport gateways with Atmosphere
Build Java agent transport gateways with Atmosphere

使用Atmosphere构建通过WebSocket、SSE、gRPC、WebTransport、MCP、A2A和AG-UI流传输的JVM代理网关,并带有治理钩子。

下载

如何处理批量操作中的部分失败与重试逻辑

当批量操作中某一条记录失败时,executeBatch() 的行为取决于具体的 JDBC 驱动和数据库类型。通常情况下,它会抛出 BatchUpdateException。为了处理这种情况,需要捕获该异常,并通过 getUpdateCounts() 方法获取已成功执行的条目索引。开发者可以根据这些索引判断哪些数据已经成功写入,从而决定是跳过失败项继续处理,还是针对失败项进行单独的重试或记录日志。此外,对于不支持部分提交的数据库,可能需要更细粒度的拆分策略,即每处理少量数据就进行一次提交。

Java JDBC 事务管理怎么实现批量操作数据拆分

import java.sql.BatchUpdateException;
import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.PreparedStatement;
import java.sql.SQLException;

public class PartialFailureHandler {
    public static void main(String[] args) {
        String url = "jdbc:mysql://localhost:3306/test";
        String user = "root";
        String password = "password";
        
        try (Connection conn = DriverManager.getConnection(url, user, password)) {
            conn.setAutoCommit(false);
            String sql = "INSERT INTO users (name) VALUES (?)";
            PreparedStatement pstmt = conn.prepareStatement(sql);
            
            // 模拟一些数据和一条会导致主键冲突的错误数据
            String[] names = {"Alice", "Bob", "Charlie", "Alice_Duplicate", "David"};
            
            for (String name : names) {
                pstmt.setString(1, name);
                pstmt.addBatch();
            }
            
            try {
                int[] results = pstmt.executeBatch();
                conn.commit();
                System.out.println("All batches processed successfully.");
            } catch (BatchUpdateException e) {
                conn.rollback(); // 发生错误时回滚整个批次
                int[] updateCounts = e.getUpdateCounts();
                System.out.println("Batch failed. Successful counts: ");
                for (int i = 0; i < updateCounts.length; i++) {
                    if (updateCounts[i] == Statement.SUCCESS_NO_INFO || updateCounts[i] > 0) {
                        System.out.println("Item at index " + i + " succeeded.");
                    } else {
                        System.out.println("Item at index " + i + " failed with code: " + updateCounts[i]);
                    }
                }
                // 这里可以实现重试逻辑,例如只重新插入失败的项
            } finally {
                pstmt.close();
            }
        } catch (SQLException e) {
            e.printStackTrace();
        }
    }
}

在处理部分失败时,BatchUpdateException 提供了关键的诊断信息。通过检查 getUpdateCounts(),可以精确知道哪些索引位置的插入成功了。如果业务允许部分成功,可以忽略失败项;如果要求严格一致,则应回滚并重试。注意,某些数据库驱动在遇到错误时可能会停止后续批次的执行,因此需要根据实际驱动行为调整拆分粒度。

基于 PreparedStatement 缓存机制对批量性能的影响

在使用 PreparedStatement 进行批量操作时,JDBC 驱动通常会将编译后的 SQL 语句缓存在数据库中。这意味着多次调用 addBatch 不会重复解析 SQL 语法,从而显著提升性能。然而,如果批次过大,驱动内部维护的缓冲区可能会占用大量内存。因此,合理设置批次大小(如 1000-5000 条)是在内存使用和数据库负载之间取得平衡的关键。此外,对于超大数据集,可以考虑分片到不同的线程并行处理,但需注意连接池的管理和事务隔离级别的选择。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

函子Zion

一款支持AI搭建、可视化编辑和多端发布的全栈无代码开发平台。

SoundView
SoundView Hot

SoundView是一款面向跨境电商的视频翻译、配音和本地化 AI 创作平台。

花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

12777

2023.06.15

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

9862

2023.07.05

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

8372

2023.07.31

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1344

2023.08.01

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1068

2023.08.02

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

1596

2023.08.02

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

3349

2023.08.02

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

20571

2023.08.03

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

140

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
dev.java 官方:Learn Java
dev.java 官方:Learn Java

共0课时 | 0人学习

Java JDBC数据库连接官方教程
Java JDBC数据库连接官方教程

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn