讲师中心 微信公众号
AI工具推荐 视频效率加速

如何优化PostgreSQL中的Hash_Join性能_调整work_mem参数减少磁盘溢出

陌辰小哥_1400

陌辰小哥_1400

发布时间:2026-04-12 13:27:18

|

718人浏览过

|

来源于php中文网

原创

Hash_Join慢且日志报“writing to disk due to insufficient memory”是因work_mem不足导致哈希表落盘,需先确认是否内存不足而非数据倾斜或统计信息过期,再合理调优work_mem并配合索引、分区等根治措施。

如何优化postgresql中的hash_join性能_调整work_mem参数减少磁盘溢出

Hash_Join慢且日志报“writing to disk due to insufficient memory”

PostgreSQL在执行Hash_Join时,如果work_mem不足,会把哈希表写到磁盘临时文件,性能骤降——这不是算法问题,而是内存配置没跟上数据规模。典型症状是执行计划里出现Hash节点带disk字样,或日志中反复出现writing to disk due to insufficient memory。

关键判断:先确认是否真因work_mem过小导致溢出,而不是数据倾斜或统计信息过期。

  • 用EXPLAIN (ANALYZE, BUFFERS)看实际Hash节点的Memory Usage和Disk Usage字段
  • 检查pg_stat_progress_hash视图(v12+),观察hash_probe_total_buckets与hash_buckets_used比值是否远大于1(说明哈希桶严重浪费,可能因work_mem太小被迫建更多桶)
  • 排除数据倾斜:对Join键运行SELECT key, COUNT(*) FROM table GROUP BY key ORDER BY 2 DESC LIMIT 5,若最大频次超过平均值10倍以上,调work_mem效果有限

work_mem设多大才够用?不是越大越好

work_mem是每个操作(如一个Hash_Join、一个Sort)能独占的内存上限,不是整个查询或整个会话的总和。设太高会导致并发查询争抢内存,触发OOM或大量swap;设太低则频繁落盘。

  • 估算下限:对小表(驱动表)做Hash,至少需要容纳其全部Join键+关联行指针。粗略按(行数 × (键长度 + 8字节)) × 1.5算(1.5是哈希表填充因子预留)
  • 推荐起点:从4MB开始测,逐步加到64MB,每次用相同SQL跑EXPLAIN (ANALYZE)对比Execution Time和Disk Usage
  • 注意作用域:全局设work_mem = '64MB'影响所有连接;更安全的是在会话级改:SET LOCAL work_mem = '64MB',仅对当前事务生效
  • 别碰shared_buffers或effective_cache_size来“间接”救Hash_Join——它们不参与哈希构建

为什么调了work_mem还是落盘?常见陷阱

即使work_mem数值看起来足够,Hash_Join仍可能写磁盘,原因往往藏在细节里:

  • PostgreSQL按“每个哈希操作”单独分配work_mem,但一个查询里可能有多个Hash_Join或嵌套Hash + Sort,总内存消耗是叠加的,而你只给了单个操作的额度
  • 使用parallel query时,每个worker进程都独立申请work_mem,比如max_parallel_workers_per_gather = 4,实际最多消耗4 × work_mem
  • work_mem单位是字节,但配置里写'64MB'会被正确解析;写成64000000容易少零,写成64M(缺B)会静默失败回退到默认值
  • Linux内核的vm.overcommit_memory设为2时,可能因vm.overcommit_ratio限制,导致PostgreSQL申请不到足额内存,哪怕work_mem设得再高

真正有效的优化不止work_mem

单靠调work_mem是止痛片,不是根治方案。当表很大、Join键分布不均或查询并发高时,必须配合其他手段:

  • 确保Join键上有索引:即使走Hash_Join,索引也能加速小表扫描和过滤,减少参与哈希的行数
  • 定期运行VACUUM ANALYZE table_name,让优化器准确估算驱动表大小——若它误判小表为大表,会主动避开Hash_Join或选错构建顺序
  • 考虑SET enable_hashjoin = off强制改用Nested Loop(仅当驱动表极小且被索引精准定位时),或enable_mergejoin = on配合已排序字段
  • 最硬核但有效:拆分超大事实表,按时间/租户分区,让每次Hash_Join只面对百万级而非亿级数据

哈希溢出本质是内存与数据规模的匹配问题,而work_mem只是那个可调的旋钮。真正难的是判断该旋多大、旋几次,以及什么时候该换台机器、换种建模方式。

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
postgresql常用命令
postgresql常用命令

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、l、c、dt、d table_name、du、i file_name、e和q等。本专题为大家提供postgresql相关的文章、下载、课程内容,供大家免费下载体验。

213

2023.10.10

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4349

2023.11.02

postgresql常用命令有哪些
postgresql常用命令有哪些

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、l、c、dt、d table_name、du、i file_name、e和q等。更详细的postgresql常用命令,大家可以访问下面的文章。

627

2023.11.16

postgresql常用命令介绍
postgresql常用命令介绍

postgresql常用命令有l、d、d5、di、ds、dv、df、dn、db、dg、dp、c、pset、show search_path、ALTER TABLE、INSERT INTO、UPDATE、DELETE FROM、SELECT等。想了解更多postgresql的相关内容,可以阅读本专题下面的文章。

1376

2023.11.20

PostgreSQL性能优化与索引调优实战
PostgreSQL性能优化与索引调优实战

本专题面向后端开发与数据库工程师,深入讲解 PostgreSQL 查询优化原理与索引机制。内容包括执行计划分析、常见索引类型对比、慢查询优化策略、事务隔离级别以及高并发场景下的性能调优技巧。通过实战案例解析,帮助开发者提升数据库响应速度与系统稳定性。

460

2026.02.12

PostgreSQL 性能优化与查询执行计划实战
PostgreSQL 性能优化与查询执行计划实战

本专题深入解析PostgreSQL性能优化核心,聚焦查询执行计划的实战应用。通过EXPLAIN命令精准定位瓶颈,结合索引策略、SQL改写与参数调优,系统提升查询效率。从执行计划解读到性能调优全流程,助你掌握数据库性能诊断与优化实战能力。

150

2026.05.08

PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践
PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践

本文详解如何利用Next.js(搭配Drizzle ORM)与Go后端构建高性能应用,充分发挥PG在JSONB非结构化存储与pgvector向量检索上的优势。从数据建模到Docker容器化部署,打造支持AI时代的“One Database”工程化解决方案。

881

2026.05.08

PostgreSQL高级特性、内核机制与现代数据架构
PostgreSQL高级特性、内核机制与现代数据架构

本专题从MVCC并发控制与WAL日志等内核机制出发,详解JSONB、PostGIS及pgvector等高级特性。探讨如何利用单一引擎支撑关系型、向量及图数据等现代数据架构需求,助您掌握构建高并发、智能化应用的核心技术。

224

2026.05.08

C++运算符基础入门
C++运算符基础入门

本专题详细讲解了C++运算符的类型、语法与使用方法,涵盖算术运算符、关系运算符、逻辑运算符、位运算符、赋值运算符、条件运算符及其他特殊运算符,并通过代码示例解析优先级与结合性。

0

2026.10.09

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn