讲师中心 微信公众号
AI工具推荐 视频效率加速

如何利用SQL语句快速清理数据库中的重复记录并只保留一条?

落磊吖_8954

落磊吖_8954

发布时间:2026-06-22 06:14:42

|

962人浏览过

|

来源于php中文网

原创

核心思路是用GROUP BY+MIN(id)识别重复组并保留最小id行:先SELECT MIN(id) FROM users GROUP BY email HAVING COUNT(*)>1锁定保留行,再用DELETE JOIN(MySQL/PG)或CTE+ROW_NUMBER()(SQL Server)删除其余行,执行前须备份并验证。

如何利用sql语句快速清理数据库中的重复记录并只保留一条?

用 GROUP BY + MIN(id) 找出每组重复数据的保留行

核心思路是:先识别重复逻辑(比如 email 或 username 字段相同),再为每组选一个要留下的主键(通常是 id 最小的那条)。不能直接 DELETE,得先锁定保留行。

假设表叫 users,按 email 判重,id 是自增主键:

SELECT MIN(id) AS keep_id, email
FROM users
GROUP BY email
HAVING COUNT(*) > 1;

这条语句能列出所有重复 email 组中该保留的 id。注意 HAVING COUNT(*) > 1 不可省略,否则会把唯一值也拉进来。

  • 如果字段允许 NULL,GROUP BY email 会把所有 NULL 归为一组——这可能不是你想要的,需额外处理
  • 若用多个字段联合判重(如 name 和 phone),GROUP BY 后要写全:GROUP BY name, phone
  • 别在没加索引的字段上跑这个查询,大表会极慢;建议对判重字段建联合索引

用 DELETE JOIN 删除非保留行(MySQL / PostgreSQL)

找到保留行后,下一步是删掉同组里其他行。最稳妥的方式是用自连接或子查询关联删除,避免误删。

MySQL 写法(推荐):

DELETE u1 FROM users u1
INNER JOIN users u2 
WHERE u1.email = u2.email 
  AND u1.id > u2.id;

这条语句的意思是:对每对相同 email 的记录,只删 id 更大的那个。等价于“每组留最小 id”。

  • PostgreSQL 不支持这种 DELETE ... FROM ... JOIN 语法,得改用 USING:
  • DELETE FROM users u1
    USING users u2
    WHERE u1.email = u2.email 
      AND u1.id > u2.id;
  • SQL Server 要用 CTE + ROW_NUMBER(),后面会提到
  • 执行前务必先备份,或在事务里测试:BEGIN TRANSACTION; ... ROLLBACK;

SQL Server 必须用 CTE + ROW_NUMBER() 实现去重

SQL Server 不支持基于多表的 DELETE 语法,也不能在 WHERE 子句里直接嵌套聚合,所以必须借助 CTE 和窗口函数。

示例(按 email 去重,留 id 最小的):

WITH dupes AS (
  SELECT id,
         ROW_NUMBER() OVER (PARTITION BY email ORDER BY id) AS rn
  FROM users
)
DELETE FROM users
WHERE id IN (SELECT id FROM dupes WHERE rn > 1);

关键点在于 PARTITION BY email ORDER BY id:按 email 分组,组内按 id 升序编号,rn = 1 就是该组要留下的那条。

  • 如果想留最新插入的(即 id 最大的),把 ORDER BY id 改成 ORDER BY id DESC
  • ROW_NUMBER() 比 RANK() 更安全,因为不会跳号,确保每行编号唯一
  • 大表执行时注意日志空间,DELETE 是完整日志操作;可考虑分批删(例如加 TOP 10000 循环)

误删风险最高的三个操作习惯

真正出问题的往往不是 SQL 写错,而是执行时疏忽。

  • 没加 WHERE 条件就运行 DELETE FROM users——哪怕只是手抖少敲一个字母,后果都是灾难性的
  • 在生产库直接跑去重脚本,不先用 SELECT 验证要删哪些行(比如先 SELECT * FROM users WHERE id IN (SELECT ...))
  • 忽略字符集和大小写敏感性:MySQL 默认 utf8mb4_general_ci 是不区分大小写的,John@example.com 和 john@example.com 会被当成重复——而你可能以为它们是不同用户

重复数据清理没有“一键安全方案”,关键判断永远落在“哪条该留”——这个逻辑必须和业务方对齐,而不是只看 id 大小。

热门AI工具

更多
Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

3863

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

831

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1009

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

5701

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2643

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

5680

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

7481

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1030

2024.04.29

PDF转图片方法
PDF转图片方法

需要把 PDF 页面用于上传、预览、分享或图片归档时,PDF 转图片方法专题整理 JPG/PNG 格式选择、逐页导出、清晰度设置、批量下载和结果检查等流程,帮助用户稳定完成 PDF 图片化处理。

0

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn