真正能落地的归档必须满足不锁主表、不压垮从库、可中断可重试;推荐分区表+EVENT自动交换旧分区,毫秒级零锁表,但需确保结构一致且分区键为索引前缀。

直接用 DELETE 一次性删几百万行,基本等于给线上服务埋雷——锁表、主从延迟飙升、慢查询暴增、甚至触发 Lock wait timeout exceeded。真正能落地的归档,必须满足三个条件:不锁主表、不压垮从库、可中断可重试。
为什么不能直接 INSERT + DELETE 大批量操作
很多人第一反应是写个存储过程,INSERT INTO archive_table SELECT ... FROM main_table WHERE time 再 <code>DELETE FROM main_table WHERE ...。这在测试库跑得飞快,一上生产就出事。
- 事务过大:InnoDB 的 undo log 和 binlog 会暴涨,purge 线程跟不上,导致
INFORMATION_SCHEMA.INNODB_TRX里长期挂着未提交事务 - 索引维护开销翻倍:每删一行,所有二级索引都要更新;数据越分散,随机 IO 越严重(2 亿行订单表删半年数据,实际要遍历上百个 B+ 树叶子页)
- 主从复制雪崩:单条
DELETE语句生成超大 binlog event,从库 SQL 线程卡死,延迟从分钟级跳到小时级 - 没断点记录:中途失败(比如磁盘满、网络抖动),无法知道“删到哪了”,重跑可能重复归档或漏数据
pt-archiver 是目前最可控的归档工具
pt-archiver 不是“一键归档”,而是把整个过程拆成可控的原子单元:查一批、插一批、删一批、休眠一下。它默认按主键顺序扫描,天然规避数据跳跃访问问题,且能精准控制资源占用。
安装、修复、更新或打包一个基于 Python 和 PyMySQL 实现的 Windows `mysql` 命令。适用于用户希望在 PowerShell/CMD 中输入 `mysql` 时重定向到 Python 实现、需要交互式输入 MySQL 连接信息、需要同步到当前用户本地 bin 目录,或需要将该能力封装成可公开复用的 Codex skill。
- 必须确保源表有主键或唯一非空索引,否则会报错
Cannot find a good index to use - 关键参数组合:
--limit 5000 --txn-size 5000 --sleep 0.3 --progress 10000,意思是每次查/插/删 5000 行,每批独立事务,处理完休眠 300ms,每万行打一次进度日志 - 归档到远端库时,加
--dest h=10.73.129.188,P=3306,u=archiver,...,临时文件生成在执行命令的本地机器,不走源库磁盘 IO - 如果只想清理不归档,用
--purge参数即可,逻辑完全一致,只是跳过插入步骤
归档表结构设计直接影响后续可查性
别直接 CREATE TABLE archive_log LIKE log 就完事。归档表不是备份镜像,而是为“低频但必须能查”服务的。
- 删掉所有唯一索引和外键约束:归档数据不参与业务写入,这些索引纯属拖慢
INSERT速度 - 保留一个复合索引:比如原表按
create_time查询多,就建INDEX idx_time_type (create_time, type),别建单列create_time索引(范围查询效率差) - 务必加
archive_time TIMESTAMP DEFAULT CURRENT_TIMESTAMP字段,否则未来根本分不清这批数据是哪次归档的 - 超大归档表(>5000 万行)建议按年分区:
PARTITION BY RANGE (YEAR(create_time)),查某年数据时 MySQL 能自动裁剪分区
事件调度器 + 分区表适合长期稳定场景
如果业务数据天然按时间滚动(如日志、监控、IoT 采集),优先考虑分区表 + EVENT 组合,比脚本更轻量、更可靠。
- 先用
ALTER TABLE log PARTITION BY RANGE COLUMNS(create_time) (...)按月建好分区,旧分区(如p_202401)可直接ALTER TABLE log EXCHANGE PARTITION p_202401 WITH TABLE log_archive_202401,毫秒级完成,零锁表 - 配合
EVENT每月 1 号凌晨自动执行分区交换 +TRUNCATE PARTITION,不用写任何 SQL 逻辑 - 注意:分区键必须是索引前缀字段,否则建分区会失败;且
EXCHANGE PARTITION要求两张表结构、索引、字符集完全一致 - 首次切换前,用
SELECT COUNT(*)对比源分区和归档表行数,避免因NO_ZERO_DATE等 SQL mode 导致数据丢失
真正容易被忽略的,是归档后的查询链路。很多团队归档成功就收工,结果业务方查历史数据时发现视图没更新、应用连接串没切、甚至归档表没加只读权限——最后还是连到主库去扫全表。归档不是迁移动作的结束,而是新查询路径的开始。

















