讲师中心 微信公众号
AI工具推荐 视频效率加速

Python 缓存导致的内存泄漏问题

冬浩君_9871

冬浩君_9871

发布时间:2026-02-15 16:44:59

|

594人浏览过

|

来源于php中文网

原创

@lru_cache默认maxsize=None导致内存持续增长,须显式设限;实例方法缓存含self易致冗余;参数须可哈希;不支持异步函数;缓存泄漏需检查引用链。

python 缓存导致的内存泄漏问题

lru_cache 不清空会持续占内存

Python 的 @lru_cache 默认缓存无限增长,一旦函数被高频调用且参数组合多,缓存对象不会自动释放,最终拖垮进程内存。这不是“缓存没命中”的问题,而是缓存本身成了内存黑洞。

常见错误现象:MemoryError 突然出现、ps aux 显示 Python 进程 RSS 持续上涨、用 tracemalloc 定位到大量 functools._lru_cache_wrapper 实例。

  • 必须显式设 maxsize,比如 @lru_cache(maxsize=128),不写等于 maxsize=None(即无上限)
  • 若逻辑上允许缓存复用但又怕累积,优先用小固定值(如 32 或 64),而非依赖“默认够用”
  • 调试时可用 your_func.cache_info() 查看当前命中/未命中/最大容量,别等 OOM 才想起查

类方法加 lru_cache 忘了 self 导致缓存错乱

@lru_cache 作用在实例方法上时,self 是缓存键的一部分 —— 但多数人没意识到:不同实例调用同一方法,哪怕参数完全一样,也会各自缓存一份。这既浪费内存,又可能掩盖状态不一致问题。

使用场景:工具类中封装了开销大的计算逻辑,想复用结果,但误把方法当纯函数用了。

立即学习“Python免费学习笔记(深入)”;

macOS UI 自动化技能包 —— 用 Python 控制你的 Mac
macOS UI 自动化技能包 —— 用 Python 控制你的 Mac

让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac,无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启:辅助功能 + 屏幕录制权限

下载
  • 如果方法不依赖实例状态(即没读 self.xxx),改用静态方法 + @staticmethod + @lru_cache
  • 如果必须是实例方法且需跨实例共享缓存,手动把缓存移到类变量或模块级字典里,别依赖装饰器自动行为
  • 切记:缓存键是 (self, *args, **kwargs) 全量元组,self 的 id() 不同就绝不复用

缓存对象含不可哈希内容直接报错

只要参数里有 dict、list、set 或自定义类(没实现 __hash__),@lru_cache 一调用就抛 TypeError: unhashable type。这不是配置问题,是底层用字典存缓存,键必须可哈希。

性能影响:有人试图把 json.dumps(args) 当键绕过,但序列化本身开销大,反而抵消缓存收益。

  • 检查所有入参类型,尤其注意隐式传入的 **kwargs —— 即便你没显写,调用方可能塞了 dict
  • 若必须缓存含非哈希结构的数据,提前转换为可哈希形式,例如用 tuple(sorted(kwargs.items())) 代替原 kwargs
  • 更稳妥的做法:在函数入口做参数归一化,把 list 转 tuple、dict 转 frozenset(tuple(sorted(d.items()))),再进缓存逻辑

异步函数不能直接套 lru_cache

@lru_cache 只支持同步函数,对 async def 直接装饰会静默失效 —— 表面不报错,实际每次调用都走新路径,缓存形同虚设。这是最隐蔽的“以为缓存了,其实没缓存”陷阱。

错误现象:压测时 QPS 上不去、CPU 持续高、日志显示重复执行耗时逻辑,但 cache_info() 始终是 CacheInfo(hits=0, ...)。

  • 别给 async def 加 @lru_cache,它根本不会生效
  • 需要异步缓存,用 aiocache 或 async_lru 这类专为协程设计的库
  • 若只是想“先同步缓存再 await”,把耗时计算部分拆成独立同步函数并缓存,再在 async 函数里调它
缓存泄漏真正的麻烦不在“怎么加”,而在“谁在持引用”——比如缓存了某个大对象的引用,而该对象又间接引用了更多资源,这时光清缓存不够,得确认整个引用链是否断裂。

热门AI工具

更多
蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

码上飞
码上飞 Hot

一款基于自然语言的AI应用开发平台,可根据用户描述自动生成应用程序,帮助个人和团队快速完成应用原型与开发。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2255

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

3622

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

1216

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

4179

2025.09.10

Docker Desktop怎么设置端口映射
Docker Desktop怎么设置端口映射

本专题聚焦Docker Desktop容器端口映射与访问配置,整理从创建容器、设置端口绑定到验证本地服务访问的操作流程。针对端口被占用、映射配置错误、容器服务无法访问等情况,也提供相应的检查方向,方便用户完成端口配置。

0

2026.11.03

Docker Desktop镜像构建教程
Docker Desktop镜像构建教程

想使用Docker Desktop将本地项目构建成Docker镜像?本专题围绕镜像构建的实际操作展开,介绍Dockerfile编写、构建命令使用、镜像标签设置和构建日志查看等内容,同时整理镜像无法生成、依赖安装失败及构建缓存异常等问题的排查思路。

0

2026.11.03

Docker Desktop容器创建指南
Docker Desktop容器创建指南

本专题聚焦Docker Desktop容器创建与运行配置,介绍通过本地镜像或远程镜像创建容器的方法,以及容器启动、终端访问、日志查看和基础管理等操作。针对端口冲突、参数配置不当、容器无法启动等情况,也整理了相应的排查方向。

0

2026.11.03

Tailwind CSS 如何制作导航栏和卡片
Tailwind CSS 如何制作导航栏和卡片

用 Tailwind CSS 制作导航栏和卡片,可先搭建语义化结构,再组合 Flex、Grid、间距、圆角与阴影类。这里整理横向导航、移动端菜单、卡片网格及悬停效果的相关文章,帮助你把常见页面组件做得清晰且适配不同屏幕。

20

2026.11.03

Tailwind CSS 响应式布局怎么写
Tailwind CSS 响应式布局怎么写

Tailwind CSS 响应式布局通常从移动端样式写起,再用 sm、md、lg 等前缀调整不同屏幕宽度下的网格、间距和导航。本专题整理断点配置、Grid 与 Flex 自适应布局及常见溢出问题,帮助你逐步完成多设备适配。

0

2026.11.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn