讲师中心 微信公众号
AI工具推荐 视频效率加速

怎样在SQL Server中通过近似聚合函数APPROX_COUNT_DISTINCT提速

星伟大大_2921

星伟大大_2921

发布时间:2026-09-27 12:34:03

|

741人浏览过

|

来源于php中文网

原创

APPROX_COUNT_DISTINCT在SQL Server 2019+中仅对千万行以上、高基数列有效,基于HyperLogLog++算法,内存恒约12KB、误差≤2%,但低基数、小表、NULL过多或索引不匹配时反而更慢更不准。

怎样在sql server中通过近似聚合函数approx_count_distinct提速

APPROX_COUNT_DISTINCT 在 SQL Server 2019+ 中确实能提速,但只对千万行以上、高基数列(如 user_id)有效;用错场景或写法反而比 COUNT(DISTINCT) 更慢、更不准。

APPROX_COUNT_DISTINCT 能快多少、为什么快

它不建全量哈希表,而是用 HyperLogLog++ 算法维护一个固定约 12KB 的 sketch 结构。无论输入是 100 万还是 10 亿行,内存和耗时几乎不变。而 COUNT(DISTINCT) 在 5 亿不同 user_id 时,哈希表可能占数 GB 内存,极易触发磁盘 spill,执行时间翻倍甚至超时。

官方保证:97% 概率下误差 ≤2%。比如真实值 1 亿,结果通常在 9800 万~1.02 亿之间——报表、DAU 监控、AB 实验够用,但别用于财务对账。

以下情况它不会快:

  • user_id 只有几十个取值(低基数),APPROX_COUNT_DISTINCT 反而多一层算法开销
  • 表只有几万行,I/O 和解析开销已远超聚合本身
  • 字段含大量 NULL,虽自动忽略,但若 WHERE 条件没过滤干净,仍会白扫无效数据

SQL Server 中必须注意的语法与兼容性

函数名严格为 APPROX_COUNT_DISTINCT(带下划线,大小写不敏感),仅支持 SQL Server 2019 及以上版本,且数据库兼容级别 ≥ 150:

ALTER DATABASE [YourDB] SET COMPATIBILITY_LEVEL = 150;

不支持第二个参数(如误差精度),传了会报错。也不能用于 image、ntext、sql_variant 等类型,对 varchar(max) 或 json 字段需先 CAST 成普通字符串。

常见翻车点:

  • 误写成 APPROX_COUNT_DISTINCT() 空括号 → 报错 “An aggregate may not appear in the set list of an UPDATE statement”
  • 在 SQL Server 2017 或更低版本执行 → 报错 “'APPROX_COUNT_DISTINCT' is not a recognized built-in function name”
  • 字段是 datetime2 但业务上想按天去重 → 忘记先 CAST(oper_time AS DATE),导致基数虚高、误差放大

WHERE 条件和索引不配,再快的函数也白搭

函数快,不代表整条查询快。如果 WHERE 导致全表扫描,APPROX_COUNT_DISTINCT 就是在“近似地扫全表”。

典型错误:

  • WHERE DATE(oper_time) = '2026-09-10' → 时间索引失效,强制计算每行函数
  • 只在 (user_id) 上建索引,但查询带 WHERE biz_type = 'login' AND oper_time >= '2026-09-01' → 无法覆盖,仍要回表

正确做法:

  • 把时间条件写成可走索引的形式:WHERE oper_time >= '2026-09-10' AND oper_time
  • 建联合索引:CREATE INDEX IX_biz_time_uid ON events(biz_type, oper_time, user_id)
  • 高频统计场景,直接预聚合:INSERT INTO daily_dau SELECT '2026-09-10', biz_type, APPROX_COUNT_DISTINCT(user_id) FROM events WHERE dt = '2026-09-10' GROUP BY biz_type

GROUP BY 中混用精确与近似聚合,小心执行计划降级

在同一 SELECT 中同时写 COUNT(*) 和 APPROX_COUNT_DISTINCT(user_id),某些 SQL Server 版本会放弃优化路径,退回到全哈希聚合模式,失去所有性能优势。

更隐蔽的问题是窗口函数场景:

  • COUNT(DISTINCT user_id) OVER (PARTITION BY region) → SQL Server 不支持,直接报错
  • 强行改写为 APPROX_COUNT_DISTINCT(user_id) OVER (PARTITION BY region) → 虽语法通过,但每个分区都独立初始化 sketch,内存占用随分区数线性增长,极易 OOM

替代方案:

  • 先按 region 分组聚合近似值:SELECT region, APPROX_COUNT_DISTINCT(user_id) FROM events GROUP BY region
  • 若需窗口内累计去重(如滚动 DAU),改用 COLLECT_SET(user_id) OVER (PARTITION BY region ORDER BY dt ROWS BETWEEN UNBOUNDED PRECEDING AND CURRENT ROW),但必须确保 user_id 是枚举有限或已做采样,否则集合爆炸

真正容易被忽略的一点:APPROX_COUNT_DISTINCT 的误差不是均匀分布的,当数据存在明显时间衰减(比如新用户激增、老用户沉默)或地域倾斜(某省占 70% 流量)时,误差可能局部突破 2%,上线前务必用最近 3 天抽样数据人工比对偏差趋势。

热门AI工具

更多
UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

4196

2023.06.21

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

1209

2025.12.08

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

223

2026.01.05

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

446

2026.01.05

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

4551

2023.08.11

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

120

2026.09.23

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

40

2026.09.23

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

40

2026.09.23

Conan创建软件包配方指南
Conan创建软件包配方指南

本专题介绍通过conanfile.py创建软件包的方法,讲解包名、版本、依赖和构建设置等基础信息,以及source、build、package、package_info等常用方法的作用及编写思路。

20

2026.09.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn