讲师中心 微信公众号

工具推荐

视频效率加速
立刻MV
立刻MV

低成本歌曲 MV、视频生成

剧云
剧云

中文短剧剧本制作平台

updream

一键生成高质量推广成片

Seko
Seko

AI短剧一键生成成片

如何在SQL查询中避免多个COUNT(DISTINCT)造成的多次扫描

轻晨姑娘_9460

轻晨姑娘_9460

发布时间:2026-11-09 10:56:31

|

240人浏览过

|

来源于php中文网

原创

多个COUNT(DISTINCT)会让查询变慢,因为数据库为每列单独启动去重流程,分别构建哈希表或排序结构,无法复用中间结果,导致IO、CPU和内存开销翻倍;优化方式是将各字段去重下沉至独立子查询预聚合,再轻量JOIN。

如何在sql查询中避免多个count(distinct)造成的多次扫描

COUNT(DISTINCT) 多次出现,数据库大概率会为每个单独启动一次去重流程——不是“慢一点”,而是IO、CPU、内存开销直接翻倍。

为什么多个 COUNT(DISTINCT) 会让查询变慢

常见错误是写类似 COUNT(DISTINCT user_id), COUNT(DISTINCT order_id), COUNT(DISTINCT product_id) 这样的语句。数据库不会“合并去重”,而是分别构建三套哈希表或排序结构:每列都扫一遍全表(或分组内数据),中间结果无法复用。EXPLAIN 中反复看到 Using temporary; Using filesort 就是典型信号。

  • MySQL/PostgreSQL 对每个 COUNT(DISTINCT col) 都走独立聚合通道,不共享状态
  • 若字段无索引,全表扫描触发三次;有索引也难避免多次随机访问
  • 在 GROUP BY 场景下更糟:10 万个分组 × 3 次去重 = 30 万次哈希操作

用子查询预聚合替代多字段并列

把高成本的去重下沉到子查询,外层只做轻量 JOIN。这是最通用、跨数据库兼容的解法。

原始写法(低效):

SELECT
  channel,
  COUNT(DISTINCT user_id),
  COUNT(DISTINCT order_id),
  COUNT(DISTINCT product_id)
FROM sales
WHERE dt = '2026-09-15'
GROUP BY channel;

优化后(推荐):

SELECT
  t1.channel,
  t1.user_cnt,
  t2.order_cnt,
  t3.product_cnt
FROM (
  SELECT channel, COUNT(DISTINCT user_id) AS user_cnt
  FROM sales WHERE dt = '2026-09-15' GROUP BY channel
) t1
JOIN (
  SELECT channel, COUNT(DISTINCT order_id) AS order_cnt
  FROM sales WHERE dt = '2026-09-15' GROUP BY channel
) t2 ON t1.channel = t2.channel
JOIN (
  SELECT channel, COUNT(DISTINCT product_id) AS product_cnt
  FROM sales WHERE dt = '2026-09-15' GROUP BY channel
) t3 ON t1.channel = t3.channel;
  • 每个子查询只扫一次数据,且可利用 (channel, user_id) 等联合索引加速
  • 结果集极小(比如几百个 channel),JOIN 几乎无压力
  • 务必在每个子查询里加相同过滤条件(如 WHERE dt = ...),否则分区裁剪失效

PostgreSQL / MySQL 8.0+ 可用 CTE 提升可读性

逻辑不变,但用 WITH 把预聚合步骤显式拆开,避免嵌套过深。

WITH user_agg AS (
  SELECT channel, COUNT(DISTINCT user_id) AS user_cnt
  FROM sales WHERE dt = '2026-09-15' GROUP BY channel
),
order_agg AS (
  SELECT channel, COUNT(DISTINCT order_id) AS order_cnt
  FROM sales WHERE dt = '2026-09-15' GROUP BY channel
)
SELECT u.channel, u.user_cnt, o.order_cnt
FROM user_agg u
JOIN order_agg o ON u.channel = o.channel;
  • CTE 不是视图,不会物化(除非加 MATERIALIZED),性能和子查询等价
  • 调试时可单独运行每个 CTE,快速定位哪一列去重最慢
  • 注意 PostgreSQL 中若 CTE 被多次引用,可能重复执行——此时应改用临时表

大数据量下慎用 CONCAT 模拟多列 DISTINCT

有人试图用 COUNT(DISTINCT CONCAT(user_id, '|', order_id)) 合并计算,但风险极高。

  • 分隔符 | 若出现在原始数据中(比如 user_id 是 JSON 字符串),会导致不同组合被误判为相同
  • CONCAT 结果不可索引,无法利用覆盖索引加速
  • 字符串拼接本身有 CPU 开销,尤其字段长或 NULL 多时
  • 真正需要多列组合去重(如 (user_id, order_id)),应直接用原生语法:COUNT(DISTINCT user_id, order_id)(MySQL 8.0.22+)或 COUNT(DISTINCT (user_id, order_id))(PostgreSQL)

真正卡点不在语法怎么写,而在是否让去重发生在最小可行数据集上——先过滤、再分组、最后去重,顺序错一步,代价就翻几倍。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

4863

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

991

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1269

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

6901

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

3583

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

6880

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

9581

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1290

2024.04.29

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

40

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn