讲师中心 微信公众号
AI工具推荐 视频效率加速

SQL如何分批删除千万级历史数据

轻萱大大_3005

轻萱大大_3005

发布时间:2026-08-07 14:43:08

|

601人浏览过

|

来源于php中文网

原创

MySQL大量DELETE后需执行OPTIMIZE TABLE才能释放磁盘空间,因其仅逻辑标记删除、不物理回收页,必须重建表(即创建新.ibd、顺序写入有效数据、原子替换)才可真正缩容。

sql如何分批删除千万级历史数据

为什么不能直接用 DELETE FROM table WHERE create_time

千万级数据单次执行会锁表、耗尽事务日志、触发超时或 OOM,MySQL 可能报 Lock wait timeout exceeded,PostgreSQL 容易卡住 WAL 归档。真实生产中,这条语句往往跑不完就失败,还拖垮线上查询。

核心矛盾在于:DELETE 是事务性操作,每行都记 undo log,全量扫描+逐行标记+清理,I/O 和内存压力极大。

  • MySQL InnoDB 下,大事务会导致 innodb_log_file_size 快速写满,进而阻塞其他写入
  • PostgreSQL 中长事务会阻止 vacuum 清理 dead tuple,表膨胀不可逆
  • 即使加了索引,WHERE 条件字段(如 create_time)若未被有效利用(比如函数包裹:DATE(create_time) ),仍会全表扫描

怎么安全分批删:用主键 or 时间字段做游标

关键不是“分多少批”,而是“每次只碰一小块连续数据,且不依赖 OFFSET(它会越来越慢)”。推荐两种游标方式:

  • 主键游标(最稳):适用于有自增 id 或唯一递增字段的表。先查出最小 id,再按 WHERE id BETWEEN x AND y 删,删完更新边界
  • 时间字段游标(需谨慎):仅当 create_time 有索引、且该字段值基本单调递增(无大量重复或乱序插入)时可用。避免用 ORDER BY create_time LIMIT N 配合 OFFSET,因为偏移越大越慢

示例(MySQL,按主键分批):

SELECT MIN(id), MAX(id) FROM orders WHERE create_time < '2022-01-01';

拿到范围后,循环执行:

DELETE FROM orders WHERE id >= 1000000 AND id < 1010000 AND create_time < '2022-01-01';

每次删 1w 行,id 范围固定、走索引、不扫描无关数据。

每批删多少行?别迷信“1000”或“5000”

批量大小必须结合你的硬件和负载动态调:SSD 延迟低可稍大(如 5k–10k),HDD 或高并发场景建议 1k–3k;重点看执行时间是否稳定在 1s 内、binlog/vacuum 压力是否可控。

  • MySQL:观察 SHOW PROCESSLIST 中 Time 列,持续 >2s 就该减小批次
  • PostgreSQL:监控 pg_stat_progress_vacuum 和 pg_stat_activity,避免长时间 deleting 状态
  • 无论哪种数据库,都要在 DELETE 后加 SLEEP(0.1)(MySQL)或 pg_sleep(0.1)(PG),让出 I/O 和 CPU,防止抖动影响线上请求

删完还要做什么?很多人漏掉这步

DELETE 不等于释放磁盘空间——尤其 MySQL InnoDB 表空间文件(ibdata1 或独立表空间)不会自动收缩,PostgreSQL 的 bloat 也不会自动回收。

  • MySQL:对大表执行 OPTIMIZE TABLE orders(注意:会锁表,建议在低峰或用 pt-online-schema-change)
  • PostgreSQL:运行 VACUUM FULL orders(阻塞读写)或更稳妥的 VACUUM orders + 后续 CLUSTER(需额外磁盘空间)
  • 无论哪种,删完务必检查表统计信息是否更新:ANALYZE orders,否则后续查询可能走错执行计划

真正麻烦的不是删数据本身,而是删完之后的碎片整理和统计同步——这两步常被跳过,结果发现查询变慢、磁盘没降、监控报警照常响。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

4443

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

931

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1169

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

6381

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

3183

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

6360

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

8661

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1170

2024.04.29

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn