讲师中心 微信公众号
AI工具推荐 视频效率加速

SQL利用窗口函数快速清理重复垃圾数据_高效方案

星枫姑娘_9188

星枫姑娘_9188

发布时间:2026-04-04 15:47:34

|

289人浏览过

|

来源于php中文网

原创

最稳妥的去重方法是用ROW_NUMBER()配合CTE或子查询,保留每组中排序后rn=1的行,务必指定ORDER BY(如created_at、id),避免行为不可控。

sql利用窗口函数快速清理重复垃圾数据_高效方案

用 ROW_NUMBER() 标记重复行再删

窗口函数本身不能直接删数据,必须配合子查询或 CTE 把“要留哪一条”明确下来。最稳的路是:给每组重复数据编号,只保留 ROW_NUMBER() OVER (PARTITION BY ... ORDER BY ...) 结果为 1 的那条。

常见错误是漏写 ORDER BY——不指定顺序时,ROW_NUMBER() 行为不确定,可能每次跑结果不同,删掉的到底是哪条根本不可控。

  • ORDER BY 建议用主键或时间字段(如 created_at),确保逻辑可预期
  • 如果按业务字段排序(比如 status),注意 NULL 值默认排最前,可能意外留下脏数据
  • 别在 WHERE 里直接用窗口函数,会报错 WINDOW function is not allowed in WHERE clause

示例(删掉 email 相同但非最新的一条):

DELETE FROM users
WHERE id NOT IN (
  SELECT id FROM (
    SELECT id,
      ROW_NUMBER() OVER (
        PARTITION BY email
        ORDER BY created_at DESC, id DESC
      ) AS rn
    FROM users
  ) t
  WHERE rn = 1
);

用 ctid 或 %%physloc%% 快速去重(PostgreSQL / SQL Server)

当表没主键、没唯一标识,又急需清理时,得靠物理位置信息定位行。PostgreSQL 用 ctid,SQL Server 可用 %%physloc%%(需启用 DBCC TRACEON(3604),但生产环境慎用)。

这类方案快,但危险:它不看业务语义,只按存储顺序删,容易误伤。尤其在并发写入频繁的表上,ctid 可能刚查完就被 vacuum 重用。

  • 务必先 BEGIN; SELECT ctid, * FROM table WHERE ... LIMIT 10; 看一眼实际分布
  • 删除时加 WHERE ctid NOT IN (...) 比用子查询更安全,避免计划器优化出错
  • MySQL 没等价物,别硬套;想类似效果得先加临时自增列再操作

避免 DISTINCT ON 被当万能解(仅 PostgreSQL)

DISTINCT ON 看起来简洁,但它只保证“每组第一个”,不提供删除能力,也不能和 DELETE 直接连用。有人写 DELETE ... USING (SELECT DISTINCT ON (...) FROM ...),结果发现删得比预期多——因为 DISTINCT ON 的“第一行”和你想象的排序不一致。

根本问题是:它不显式暴露排序依据,容易掩盖逻辑漏洞。比如 DISTINCT ON (email) ORDER BY email, updated_at DESC,若 updated_at 有重复,数据库会任意选一条,你无法控制。

  • 用 DISTINCT ON 前,先确认 ORDER BY 后缀足够唯一(比如追加 id)
  • 它适合导出清洗后数据,不适合原地删;真要删,还是回到 ROW_NUMBER() + CTE 更可靠
  • 其他数据库(MySQL/SQL Server)没有这个语法,别写完才发现没法迁移

大表删重复数据卡死?先建索引再动手

没索引时,PARTITION BY 字段上的 GROUP BY 或 JOIN 会全表扫描,100 万行以上基本卡住。不是语法问题,是执行计划崩了。

重点不是“要不要索引”,而是“索引字段必须覆盖 PARTITION BY + ORDER BY 的前导列”。比如按 (email, created_at) 分组排序,索引就得是 ON users(email, created_at),反过来就不生效。

  • 加索引前先 EXPLAIN ANALYZE 对比执行计划,看是否从 Seq Scan 变成 Index Scan
  • 线上加索引记得用 CONCURRENTLY(PostgreSQL),否则锁表
  • 删完记得检查索引膨胀,必要时 VACUUM FULL 或重建

真正麻烦的从来不是怎么写 SQL,而是删完之后,外键、触发器、物化视图有没有跟着失效——这些不会报错,但数据一致性已经悄悄坏了。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

4383

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

911

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1149

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

6301

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

3123

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

6280

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

8541

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1150

2024.04.29

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

80

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn