讲师中心 微信公众号
AI工具推荐 视频效率加速

怎样在MySQL中快速删除表中的重复数据_使用ROW_NUMBER窗口函数

酷浩小哥_3396

酷浩小哥_3396

发布时间:2026-05-12 09:20:31

|

455人浏览过

|

来源于php中文网

原创

MySQL 8.0+才支持ROW_NUMBER()去重,低版本如5.7不支持该函数;需先用SELECT VERSION()确认版本≥8.0.2,再通过PARTITION BY分组、ORDER BY指定保留规则,结合CTE或子查询删除rn>1的重复行,注意索引优化与NULL处理。

怎样在mysql中快速删除表中的重复数据_使用row_number窗口函数

MySQL 8.0+ 才能用 ROW_NUMBER() 去重

低版本 MySQL(比如 5.7)根本没 ROW_NUMBER() 函数,强行写会报错 FUNCTION xxx.ROW_NUMBER does not exist。确认版本最直接的方式是执行:

SELECT VERSION();
只有输出类似 8.0.25 或更高,才能继续往下走。如果版本不够,得换思路——比如用自连接、临时表或导出再导入。

用 ROW_NUMBER() 标记重复行并删除

核心逻辑是:按业务唯一字段分组(如 email、user_id),给每组内行编号,只保留 ROW_NUMBER() = 1 的那条,其余删掉。注意不能在同一个语句里对同一张表既查又删,必须用派生表或 CTE 绕过 ERROR 1093。

实操建议如下:

  • 先用 SELECT 预览哪些会被删:
    SELECT id, email, ROW_NUMBER() OVER (PARTITION BY email ORDER BY id) AS rn FROM users;
  • 真正删除时,用子查询包装 ROW_NUMBER() 结果:
    DELETE t1 FROM users t1 INNER JOIN ( SELECT id, ROW_NUMBER() OVER (PARTITION BY email ORDER BY id) AS rn FROM users ) t2 ON t1.id = t2.id WHERE t2.rn > 1;
  • 如果主键不是 id,记得把所有出现的 id 换成你实际的唯一标识字段;PARTITION BY 后面填真正用来判断“重复”的列,可以多个,用逗号隔开,比如 PARTITION BY user_id, created_date
  • 删除前务必备份:
    CREATE TABLE users_backup AS SELECT * FROM users;

ORDER BY 决定哪条数据被保留

ROW_NUMBER() 的 ORDER BY 子句不光影响排序,它直接决定谁是 rn = 1——也就是最终留下的那条。比如:ORDER BY created_at DESC 会保留最新的一条;ORDER BY id ASC 会保留 ID 最小的那条。别默认以为“不写就按插入顺序”,MySQL 不保证物理顺序,必须显式指定。

常见错误场景:

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载
  • 忘了 ORDER BY,导致 ROW_NUMBER() 行为不可预测,可能每次执行留下不同的记录
  • 用 ORDER BY updated_at 却发现某些行 updated_at 全是 NULL,结果这些 NULL 被排在前面,rn = 1 落到不该留的数据上
  • 想按时间保留最新,但字段类型是 VARCHAR 存的时间字符串(如 '2023-1-1'),排序会错乱,应先转成 DATE 或确保格式统一为 '2023-01-01'

大表删除要防锁表和超时

如果表有几百万行,上面那个 DELETE ... JOIN 语句可能跑很久,期间锁住整张表,阻塞业务写入。更稳妥的做法是分批删:

先加索引(如果还没建):

ALTER TABLE users ADD INDEX idx_email (email);
然后用循环方式,每次删 1000 条:

DELETE FROM users WHERE id IN ( SELECT id FROM ( SELECT id FROM users WHERE email IN ( SELECT email FROM users GROUP BY email HAVING COUNT(*) > 1 ) AND id NOT IN ( SELECT MIN(id) FROM users GROUP BY email ) ORDER BY id LIMIT 1000 ) AS tmp );

这个写法虽然略绕,但能避免单次操作太久。另外记得检查 innodb_lock_wait_timeout 和 max_execution_time,防止中途被中断。

真正难的不是语法,是搞清“重复”的定义是否覆盖所有边界情况——比如空字符串和 NULL 算不算相同?大小写敏感吗?这些都会让 PARTITION BY 的结果和你预期不一样。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

4203

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

891

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1089

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

6101

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2963

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

6080

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

8181

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1110

2024.04.29

PixTV官网入口地址合集
PixTV官网入口地址合集

本专题汇总了 PixTV AI 一站式视频创作平台的官方入口与使用教程。无需下载软件,浏览器直接访问即可使用。平台将剧本、图像、视频、声音与剪辑整合在“无限画布”中,接入 GPT Image 2.5、Seedance 2.5 等头部模型。本专题整理了从新建画布、角色锚定、分镜拆分到视频生成与导出的完整操作指南,助你快速上手 AI 短剧与漫剧创作。

80

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 183人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn