讲师中心 微信公众号
AI工具推荐 视频效率加速

为什么在SQL中使用GROUP BY会导致内存溢出溢出到磁盘

梦辰大大_2837

梦辰大大_2837

发布时间:2026-10-05 07:59:38

|

517人浏览过

|

来源于php中文网

原创

GROUP BY 撑爆内存是因为将所有分组键值及聚合中间状态全量缓存在内存哈希表中,分组数过多或键值过大(如大字段、无索引表达式)导致OOM;需同步调大且相等 tmp_table_size 与 max_heap_table_size,并确保索引匹配 GROUP BY 顺序。

为什么在sql中使用group by会导致内存溢出溢出到磁盘

GROUP BY 为什么直接撑爆内存

数据库执行 GROUP BY 时,并不是“边分组边丢弃”,而是把**所有分组键值 + 对应的聚合中间状态**(如 COUNT 计数器、SUM 累加值、COUNT(DISTINCT) 的哈希集合)全部缓存在内存哈希表里。一旦分组数超千万,或某一分组数据量极大(比如一个 user_id 对应 400 万行日志),哈希表就直接吃光可用内存。

常见错误现象:

  • MySQL 报错 ERROR 1038 (HY001): Out of sort memory 或连接突然断开(Lost connection)
  • PostgreSQL 报 out of memory,EXPLAIN (ANALYZE, BUFFERS) 显示 Hash Agg 节点下有 Spill to disk
  • 执行计划中出现 Using temporary,且 Created_tmp_disk_tables 持续上涨

tmp_table_size 和 max_heap_table_size 必须相等

MySQL 不靠 sort_buffer_size 控制 GROUP BY 内存——它只管 ORDER BY 排序。真正决定“能用多少内存建临时表”的,是 tmp_table_size 和 max_heap_table_size 中的较小值。两者不一致,等于白调。

实操建议:

  • 查当前值:SELECT @@tmp_table_size, @@max_heap_table_size;
  • 永久生效:在 my.cnf 的 [mysqld] 段写两行,例如:tmp_table_size = 268435456 和 max_heap_table_size = 268435456(即 256MB)
  • 重启后确认:SHOW VARIABLES LIKE 'tmp_table_size';,两个值必须完全相同
  • 别设太高:超过物理内存的 20%~25%,高并发下极易触发系统级 OOM

大字段 GROUP BY 是最隐蔽的内存炸弹

用 VARCHAR(2000)、TEXT 或 JSON 字段做 GROUP BY,单个键可能占几 KB。一千万个不同值,光键就吃掉几十 GB 内存——还没开始算聚合,哈希表已崩。

容易踩的坑:

  • SELECT COUNT(*) FROM t GROUP BY long_text 看似只统计,但 MySQL 仍需把每个 long_text 值全量存进哈希表比对
  • GROUP BY LEFT(long_text, 100) 这类表达式无法走索引,且不减内存占用
  • EXPLAIN 不会警告“字段太大”,但只要出现 Using temporary,就是危险信号

替代方案:

  • 改用确定性哈希:GROUP BY SHA2(long_text, 256)(固定 64 字节)
  • 提取关键路径再哈希:GROUP BY SHA2(JSON_EXTRACT(data, '$.user_id'), 256)
  • 确保函数表达式能走索引(MySQL 8.0+ 支持函数索引,需显式创建)

索引失效比参数没调够更致命

即使你把 tmp_table_size 设到 1GB,只要执行计划里出现 Using temporary; Using filesort,说明 MySQL 已放弃索引,全量加载数据进内存再分组——参数只是延缓崩溃,不是解决问题。

关键检查点:

  • 联合索引顺序是否严格匹配 GROUP BY 字段顺序?例如索引是 (status, user_id),那 GROUP BY status, user_id 可走索引,GROUP BY user_id, status 就不行
  • WHERE 条件字段是否放在索引最左?理想结构是:WHERE 等值字段 → GROUP BY 字段 → SELECT 聚合字段
  • 避免在 GROUP BY 中混用函数:GROUP BY DATE(created_at) 或 SUBSTRING(name, 1, 5) 会让索引完全失效

真正难处理的,是那些没报错但悄无声息吃光内存的查询——它们往往藏在视图、CTE 或嵌套子查询里,执行路径早已失控。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

4536

2023.06.21

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

1229

2025.12.08

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

223

2026.01.05

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

466

2026.01.05

数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

3983

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

851

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1029

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

5841

2024.03.06

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

60

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn