讲师中心 微信公众号
AI工具推荐 视频效率加速

PostgreSQL 16如何高效删除重复数据?

雨静同学_4305

雨静同学_4305

发布时间:2026-08-26 06:11:08

|

175人浏览过

|

来源于php中文网

原创

最稳方案是用ROW_NUMBER() + CTE一次删净,核心是按指定顺序编号后删除rn>1的行,需建复合索引并优先使用主键而非ctid。

postgresql 16如何高效删除重复数据?

用 ROW_NUMBER() + CTE 一次删净,最稳

对中等以上数据量(10万+行),这是目前最通用、可读性好且性能可控的方案。核心是给每组重复记录编号,只删 rn > 1 的行。

  • 必须指定 ORDER BY —— 否则 ROW_NUMBER() 结果不稳定,可能每次删掉不同行;想留最新的一条就按时间字段倒序,想留 ID 最小的就按主键正序
  • 别直接在 DELETE 里嵌套窗口函数:PostgreSQL 不允许 DELETE ... WHERE id IN (SELECT ... ROW_NUMBER()) 这种写法(会报错“subquery must return only one column”)
  • 正确写法是用 CTE 先算出要删的 ctid 或主键,再关联删除:
    WITH duplicates AS (
      SELECT ctid,
             ROW_NUMBER() OVER (
               PARTITION BY col1, col2 ORDER BY created_at DESC
             ) AS rn
      FROM my_table
    )
    DELETE FROM my_table
    WHERE ctid IN (SELECT ctid FROM duplicates WHERE rn > 1);
  • 如果表有主键(比如 id),把 ctid 换成 id 更安全;ctid 在 VACUUM 或并发写入时可能变化,主键更可靠

大表慎用 NOT IN (SELECT ... GROUP BY)

这个写法看着简洁,但实际执行时容易卡死或超时,尤其在百万级表上。

  • 典型错误写法:DELETE FROM t WHERE id NOT IN (SELECT MIN(id) FROM t GROUP BY col1, col2) —— 当子查询结果含 NULL 时整条语句返回空集,一条都不删;且子查询无法走索引,全表扫描 + 嵌套循环,6600万行实测耗时超 67 秒
  • 即使加了 WHERE ... IS NOT NULL,优化器仍大概率选错执行计划,GROUP BY 阶段内存压力大,可能触发磁盘临时文件
  • 替代思路:先用 CREATE TABLE AS SELECT DISTINCT ... 建新表,再重命名交换,比原地 DELETE 快得多,但需要额外磁盘空间和停写窗口

DELETE USING 适合有自增主键的小到中型表

利用自连接匹配重复行,逻辑直白,对几十万行以内效果不错,但要注意保留策略方向。

  • 保留最大 id(删小 ID):DELETE FROM t a USING t b WHERE a.id
  • 保留最小 id(删大 ID):DELETE FROM t a USING t b WHERE a.id > b.id AND a.col1 = b.col2 AND a.col2 = b.col2 —— 注意这里字段对应别写反
  • 没主键?不能用这个方法 —— USING 依赖可比较的唯一标识,ctid 虽然可用,但并发下不保险,不建议生产环境这么干
  • 执行前务必加 EXPLAIN ANALYZE 看是否走了索引;如果 col1, col2 上没复合索引,会退化成笛卡尔积,N² 复杂度直接拖垮数据库

ctid 方案快但有隐藏风险

对无主键、无业务唯一键的表,ctid 是唯一物理地址,能快速定位行,但仅限紧急修复或测试环境。

  • 常见写法:DELETE FROM t WHERE ctid NOT IN (SELECT MIN(ctid) FROM t GROUP BY col1, col2)
  • ctid 不稳定:VACUUM FULL、CLUSTER、或高并发 UPDATE/INSERT 后,同一行的 ctid 可能改变;这意味着你查出来的“要保留的 ctid”可能在 DELETE 执行时已失效
  • 无法跨事务保证一致性:CTE 中引用 ctid 时,若其他会话正在修改该行,可能删错或漏删
  • 真正安全的做法是:先用 SELECT ctid, ... 把待删 ctid 导出到临时表,再用 DELETE ... WHERE ctid = ANY(ARRAY[...]) 批量删 —— 但这就失去“一键”的便利性了
真正麻烦的不是语法,而是你得先确认「哪些列组合才算重复」——是全字段相同?还是业务语义上某几列相同就算?这个判断一旦错,删完没法回滚。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
postgresql常用命令
postgresql常用命令

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、l、c、dt、d table_name、du、i file_name、e和q等。本专题为大家提供postgresql相关的文章、下载、课程内容,供大家免费下载体验。

213

2023.10.10

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4169

2023.11.02

postgresql常用命令有哪些
postgresql常用命令有哪些

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、l、c、dt、d table_name、du、i file_name、e和q等。更详细的postgresql常用命令,大家可以访问下面的文章。

607

2023.11.16

postgresql常用命令介绍
postgresql常用命令介绍

postgresql常用命令有l、d、d5、di、ds、dv、df、dn、db、dg、dp、c、pset、show search_path、ALTER TABLE、INSERT INTO、UPDATE、DELETE FROM、SELECT等。想了解更多postgresql的相关内容,可以阅读本专题下面的文章。

1376

2023.11.20

PostgreSQL性能优化与索引调优实战
PostgreSQL性能优化与索引调优实战

本专题面向后端开发与数据库工程师,深入讲解 PostgreSQL 查询优化原理与索引机制。内容包括执行计划分析、常见索引类型对比、慢查询优化策略、事务隔离级别以及高并发场景下的性能调优技巧。通过实战案例解析,帮助开发者提升数据库响应速度与系统稳定性。

440

2026.02.12

PostgreSQL 性能优化与查询执行计划实战
PostgreSQL 性能优化与查询执行计划实战

本专题深入解析PostgreSQL性能优化核心,聚焦查询执行计划的实战应用。通过EXPLAIN命令精准定位瓶颈,结合索引策略、SQL改写与参数调优,系统提升查询效率。从执行计划解读到性能调优全流程,助你掌握数据库性能诊断与优化实战能力。

130

2026.05.08

PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践
PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践

本文详解如何利用Next.js(搭配Drizzle ORM)与Go后端构建高性能应用,充分发挥PG在JSONB非结构化存储与pgvector向量检索上的优势。从数据建模到Docker容器化部署,打造支持AI时代的“One Database”工程化解决方案。

881

2026.05.08

PostgreSQL高级特性、内核机制与现代数据架构
PostgreSQL高级特性、内核机制与现代数据架构

本专题从MVCC并发控制与WAL日志等内核机制出发,详解JSONB、PostGIS及pgvector等高级特性。探讨如何利用单一引擎支撑关系型、向量及图数据等现代数据架构需求,助您掌握构建高并发、智能化应用的核心技术。

224

2026.05.08

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

160

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn