讲师中心 微信公众号
AI工具推荐 视频效率加速

SQL去重查询怎么实现_完整逻辑拆解助力系统化掌握【教学】

冬枫小哥_6532

冬枫小哥_6532

发布时间:2025-12-16 18:16:02

|

755人浏览过

|

来源于php中文网

原创

SQL去重核心在于“选”而非“删”,需按场景分四步:一查重复(GROUP BY+HAVING);二去重展示(DISTINCT或ROW_NUMBER());三慎删数据(自关联或NOT IN);四源头防重(UNIQUE约束、幂等控制)。

sql去重查询怎么实现_完整逻辑拆解助力系统化掌握【教学】

SQL去重查询的核心是识别并消除重复数据,关键不在于“删”,而在于“选”——用合适的方式从结果集中只保留一条代表记录。掌握它需要分清场景:是查重、去重展示,还是真正删除重复行?下面按实际使用逻辑一步步拆解。

一、查出哪些数据重复了(诊断阶段)

先确认重复依据:通常按业务主键或多个字段组合判断是否重复。比如用户表中手机号重复,或订单表中(用户ID+商品ID+下单时间)相同即视为重复。

用 GROUP BY + HAVING 找出重复组:

  • SELECT user_id, phone, COUNT(*) FROM users GROUP BY phone HAVING COUNT(*) > 1;
  • 这能列出所有重复的手机号及重复次数,是后续处理的前提。

二、查询时跳过重复,只取每组一条(去重展示)

这是最常见需求:比如列表页不希望同一个人出现多次,但又不能删数据。

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载
  • SELECT DISTINCT phone, name FROM users; —— 简单字段去重,适用于整行完全一致的情况。
  • SELECT * FROM (SELECT *, ROW_NUMBER() OVER (PARTITION BY phone ORDER BY create_time DESC) rn FROM users) t WHERE rn = 1; —— 按手机号分组,每组取最新一条。这是精准可控去重展示的标准写法。
  • 注意:PARTITION BY 定义“重复组”,ORDER BY 决定保留哪条(如取最早/最新/某状态优先),rn = 1 即只留每组头一条。

三、真正删除重复数据(慎操作!)

删除前务必备份,且建议先用上一步的子查询验证要删哪些行。

  • MySQL 8.0+ 支持直接用 ROW_NUMBER() 配合 DELETE:
  • DELETE t1 FROM users t1 INNER JOIN users t2 WHERE t1.phone = t2.phone AND t1.id > t2.id; —— 基于自关联,保留 id 最小的那条,删掉其余。
  • 更通用安全的做法:先查出要保留的ID(如每组最小id),再删不在该集合里的行:
  • DELETE FROM users WHERE id NOT IN (SELECT MIN(id) FROM users GROUP BY phone);
  • ⚠️ 注意:NOT IN 遇到 NULL 会失效,生产环境建议用 LEFT JOIN + IS NULL 替代。

四、避免重复:从源头加固(长期策略)

查和删只是补救,建表时加约束才是根本。

  • 对唯一字段(如手机号、邮箱)添加 UNIQUE 约束 或 唯一索引;
  • 业务层插入前先 SELECT 校验,或用 INSERT IGNORE / ON DUPLICATE KEY UPDATE(MySQL);
  • 复杂唯一逻辑(如“同一用户每天只能提交一次”)靠应用层幂等控制或数据库函数索引(PostgreSQL)+ 唯一约束配合。

基本上就这些。去重不是一道语法题,而是一套“识别→筛选→清理→预防”的闭环逻辑。理清目标(查?展?删?防?),再选对应方法,就不容易踩坑。

热门AI工具

更多
蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

4323

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

911

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1129

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

6241

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

3063

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

6220

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

8421

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1150

2024.04.29

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

20

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 187人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn