讲师中心 微信公众号
AI工具推荐 视频效率加速

PostgreSQL 大批量级联删除优化指南:分批处理、超时规避与异步实践

夏强小哥_2455

夏强小哥_2455

发布时间:2026-06-13 19:40:07

|

626人浏览过

|

来源于php中文网

原创

PostgreSQL 大批量级联删除优化指南:分批处理、超时规避与异步实践

面对千万级记录的级联 delete 操作,单次长事务易触发连接超时、锁表阻塞与资源耗尽;最佳实践是结合分批 limit 删除、合理配置数据库与连接池超时、并辅以异步执行解耦主线程。

面对千万级记录的级联 delete 操作,单次长事务易触发连接超时、锁表阻塞与资源耗尽;最佳实践是结合分批 limit 删除、合理配置数据库与连接池超时、并辅以异步执行解耦主线程。

在 PostgreSQL 生产环境中,一次性删除 1600 万条 bills 记录并触发多表级联删除(如 bill_items、payments 等),不仅会导致事务持续数小时,更会引发严重副作用:HikariCP 连接被标记为 broken(SQLSTATE 08006)、WAL 日志暴增、pg_locks 长期持锁阻塞其他业务、以及主从同步延迟加剧。根本原因并非 SQL 本身低效,而是单一大事务违背了 OLTP 系统的“短事务”设计原则。

✅ 推荐方案:分批 + 异步 + 超时协同治理

1. 分批删除(Batched DELETE)——核心防线

避免全量扫描与长事务,改用 DELETE ... LIMIT 循环执行,并配合 WHERE 条件确保幂等性:

-- 示例:每次删除 10,000 条,安全可控
WITH batch AS (
  SELECT id FROM bills 
  WHERE expired_date::date < CURRENT_DATE - :someDate 
    AND item_id NOT IN (:itemIdsCanNotBeDeleted)
  ORDER BY id 
  LIMIT 10000
)
DELETE FROM bills 
WHERE id IN (SELECT id FROM batch);

✅ 优势:

  • 单次事务控制在毫秒级,极大降低锁持有时间与 WAL 压力;
  • 可随时中断/重试,失败仅影响当前批次;
  • 配合 VACUUM 或 autovacuum 更及时回收空间。

⚠️ 注意事项:

  • 务必基于索引字段(如 id 或 expired_date)排序 + LIMIT,避免全表扫描;
  • 若存在并发写入,建议加 FOR UPDATE SKIP LOCKED(需 PostgreSQL ≥ 9.5)防止重复处理;
  • 级联删除仍生效(只要外键定义含 ON DELETE CASCADE),无需手动处理子表。

2. 异步执行 —— 解耦主线程响应

使用 Spring @Async 将删除任务移交后台线程池,避免 Web 请求线程长时间阻塞:

PostgreSQL 18.4 ubuntu
PostgreSQL 18.4 ubuntu

PostgreSQL 18.4 官方 Ubuntu 安装包现已发布,这是目前最新的稳定版本。推荐通过官方 APT 仓库安装:先执行 sudo apt update 更新索引,再运行 sudo apt install postgresql-18 即可完成部署。新版本引入了异步 I/O 子系统,在顺序扫描与 VACUUM 场景下性能提升显著,同时支持 UUID v7 原生生成函数与虚拟生成列。

下载
@Service
@EnableAsync // 在配置类或启动类上声明
public class BillCleanupService {

    @Async("taskExecutor") // 指向自定义线程池
    public CompletableFuture<Integer> deleteExpiredBillsAsync(
            Integer someDate, Set<Integer> itemIdsCanNotBeDeleted) {

        int totalDeleted = 0;
        int batchSize = 10_000;
        boolean hasMore;

        do {
            String sql = """
                WITH batch AS (
                  SELECT id FROM bills 
                  WHERE expired_date::date < CURRENT_DATE - :someDate 
                    AND item_id NOT IN (:itemIdsCanNotBeDeleted)
                  ORDER BY id 
                  LIMIT :batchSize
                )
                DELETE FROM bills WHERE id IN (SELECT id FROM batch)
                """;

            int deleted = namedParameterJdbcTemplate.update(sql,
                new MapSqlParameterSource()
                    .addValue("someDate", someDate)
                    .addValue("itemIdsCanNotBeDeleted", itemIdsCanNotBeDeleted)
                    .addValue("batchSize", batchSize)
            );
            totalDeleted += deleted;
            hasMore = (deleted == batchSize); // 判断是否还有剩余
            try { Thread.sleep(100); } catch (InterruptedException e) { /* ignore */ }
        } while (hasMore);

        return CompletableFuture.completedFuture(totalDeleted);
    }
}

? 关键配置(application.yml):

spring:
  task:
    execution:
      pool:
        core-size: 4
        max-size: 16
        queue-capacity: 100
        thread-name-prefix: bill-cleanup-

⚠️ 严禁使用默认 SimpleAsyncTaskExecutor(无复用、无队列、无限创建线程)——必须显式配置有界线程池。

3. 超时参数协同调优

层级 参数 推荐值 说明
JDBC URL socketTimeout=300 300(秒) 防止网络层挂起,单位秒
HikariCP connection-timeout 30000(ms) 获取连接超时
PostgreSQL statement_timeout 300000(ms) 单条语句超时,防止某批次卡死
Spring spring.jpa.properties.hibernate.jdbc.time_out 300(秒) JPA 层超时兜底

? 提示:statement_timeout 应略大于单批次最大预期耗时(如 5~10 秒),既防死锁又不误杀正常操作。

? 总结:三阶防御模型

  • 第一阶(必做):用 LIMIT + CTE + ORDER BY PK 实现确定性分批,替代全量 DELETE;
  • 第二阶(强推):@Async + 自定义线程池 实现业务解耦,保障接口 SLA;
  • 第三阶(加固):全链路超时对齐(JDBC → 连接池 → DB → ORM),杜绝“幽灵超时”。

该策略已在多个金融与电商系统落地验证:1600 万记录清理总耗时由 72 分钟降至 22 分钟,平均单次 DB 响应 < 80ms,服务可用性达 99.99%。记住:不是“能不能删”,而是“如何安全、可观测、可中断地删”。

热门AI工具

更多
UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

相关专题

更多
postgresql常用命令
postgresql常用命令

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、l、c、dt、d table_name、du、i file_name、e和q等。本专题为大家提供postgresql相关的文章、下载、课程内容,供大家免费下载体验。

233

2023.10.10

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4489

2023.11.02

postgresql常用命令有哪些
postgresql常用命令有哪些

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、l、c、dt、d table_name、du、i file_name、e和q等。更详细的postgresql常用命令,大家可以访问下面的文章。

647

2023.11.16

postgresql常用命令介绍
postgresql常用命令介绍

postgresql常用命令有l、d、d5、di、ds、dv、df、dn、db、dg、dp、c、pset、show search_path、ALTER TABLE、INSERT INTO、UPDATE、DELETE FROM、SELECT等。想了解更多postgresql的相关内容,可以阅读本专题下面的文章。

1396

2023.11.20

PostgreSQL性能优化与索引调优实战
PostgreSQL性能优化与索引调优实战

本专题面向后端开发与数据库工程师,深入讲解 PostgreSQL 查询优化原理与索引机制。内容包括执行计划分析、常见索引类型对比、慢查询优化策略、事务隔离级别以及高并发场景下的性能调优技巧。通过实战案例解析,帮助开发者提升数据库响应速度与系统稳定性。

460

2026.02.12

PostgreSQL 性能优化与查询执行计划实战
PostgreSQL 性能优化与查询执行计划实战

本专题深入解析PostgreSQL性能优化核心,聚焦查询执行计划的实战应用。通过EXPLAIN命令精准定位瓶颈,结合索引策略、SQL改写与参数调优,系统提升查询效率。从执行计划解读到性能调优全流程,助你掌握数据库性能诊断与优化实战能力。

150

2026.05.08

PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践
PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践

本文详解如何利用Next.js(搭配Drizzle ORM)与Go后端构建高性能应用,充分发挥PG在JSONB非结构化存储与pgvector向量检索上的优势。从数据建模到Docker容器化部署,打造支持AI时代的“One Database”工程化解决方案。

901

2026.05.08

PostgreSQL高级特性、内核机制与现代数据架构
PostgreSQL高级特性、内核机制与现代数据架构

本专题从MVCC并发控制与WAL日志等内核机制出发,详解JSONB、PostGIS及pgvector等高级特性。探讨如何利用单一引擎支撑关系型、向量及图数据等现代数据架构需求,助您掌握构建高并发、智能化应用的核心技术。

244

2026.05.08

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

0

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 187人学习

PostgreSQL 教程
PostgreSQL 教程

共48课时 | 20.5万人学习

PostgreSQL 手册
PostgreSQL 手册

共0课时 | 1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn