讲师中心 微信公众号

工具推荐

视频效率加速
updream

一键生成高质量推广成片

剧云
剧云

中文短剧剧本制作平台

AniShort
AniShort

AI短剧协同制作平台

立刻MV
立刻MV

低成本歌曲 MV、视频生成

Python 内存泄漏的定位与解决

阿墨吖_7855

阿墨吖_7855

发布时间:2026-02-23 20:24:11

|

506人浏览过

|

来源于php中文网

原创

用 tracemalloc 可快速定位 Python 内存增长源头:需尽早 start(),在稳定复现路径前后 take_snapshot(),再 compare_to() 查增量代码行;注意其不跟踪 C 扩展内存。

python 内存泄漏的定位与解决

用 tracemalloc 快速定位内存增长源头

Python 程序跑着跑着变慢、RSS 内存持续上涨,大概率不是 GC 失效,而是对象被意外持有。别急着翻 gc.get_objects(),先用标准库的 tracemalloc——它开销小、精度够、自带调用栈追踪。

关键不是“开了就看”,而是得在**稳定复现路径前启动、在增长后快照比对**:

  • tracemalloc.start() 要尽早调用,最好在主模块导入后第一行(避免漏掉初始化阶段的分配)
  • 触发疑似泄漏的操作后,用 tracemalloc.take_snapshot() 拍两份快照,再用 snapshot1.compare_to(snapshot2, 'lineno') 查增量最大的 10 行
  • 注意默认只跟踪 Python 分配,C 扩展(如 NumPy 数组底层内存)不计入;若怀疑 C 层泄漏,得换 valgrind 或 memray

gc.garbage 里真有活对象?别信,先确认循环引用是否被打破

看到 gc.garbage 非空,不代表一定泄漏——它只是 GC 暂时无法回收的循环引用集合。很多情况下,这些对象后续会被正常清理,或者根本没逃过 finalizer。

真正要盯的是:这些对象是否在业务逻辑结束后仍长期驻留?检查步骤很直接:

立即学习“Python免费学习笔记(深入)”;

Python Hardener
Python Hardener

通过完整的安全审查、代码整洁重构、健壮的错误处理、正确的日志记录以及完整的文档字符串覆盖,强化 Python 脚本。

下载
  • 手动触发 gc.collect() 后再查 gc.garbage,如果长度不变且对象类型固定(比如全是某个自定义类实例),才值得深挖
  • 用 gc.get_referrers(obj) 查谁还拿着它,重点看是不是被全局 dict、缓存、信号回调、线程局部存储(threading.local)或 logging handler 意外强引用
  • 常见陷阱:functools.lru_cache 缓存未设 maxsize、weakref.WeakKeyDictionary 错写成普通 dict、用类变量存实例引用

异步任务(asyncio)里忘了 await 或漏了 cancel() 就会吃内存

协程对象本身不占多少内存,但一旦被创建却没被调度或取消,它关联的帧对象(frame)、局部变量、上下文就会一直挂着——尤其在长周期服务中,这种“幽灵 task”越积越多。

排查和防御都得从事件循环入手:

  • 用 asyncio.all_tasks(loop) 列出所有存活 task,过滤掉 done() 为 False 且 cancelled() 为 False 的,它们就是可疑分子
  • 启动 task 时务必用 asyncio.create_task() 而非直接调用协程函数;取消时用 task.cancel() + await task,别只 cancel 不 await
  • 日志打点要小心:logging.info(f"start {obj}") 中的 obj 若含大字段或闭包,可能让整个帧无法释放

第三方库的缓存策略常是隐藏泄漏源,尤其 ORM 和 HTTP 客户端

Django ORM 的 QuerySet、SQLAlchemy 的 session、requests 的连接池、aiohttp 的 ClientSession——它们内部都有缓存或连接保持机制,用错一次,内存就悄悄涨一点。

不能全靠文档,得看实际行为:

  • Django 中避免在循环里反复调用 qs.filter(...) 却不执行(如不加 list() 或 len()),因为每个 filter 都生成新 QuerySet,而 QuerySet 会缓存 SQL 和结果元信息
  • SQLAlchemy 的 session.query(...).all() 返回的 list 里对象仍被 session 强引用,不用时显式调用 session.expunge_all() 或用 session.close()
  • aiohttp 的 ClientSession 必须配合 async with 使用,手写 session = ClientSession(); await session.get(...) 而不 close,连接和相关缓冲区就一直占着

最麻烦的其实是“看起来没问题”的组合:比如用 lru_cache 包裹一个返回 pandas DataFrame 的函数,DataFrame 本身引用了大量 numpy 数组,缓存键又没控制好粒度——这时候 tracemalloc 显示的往往是 pandas.core.frame.DataFrame,但根因在缓存策略上。

热门AI工具

更多
小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

4863

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

991

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1289

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

6901

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

3583

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

6900

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

9601

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1290

2024.04.29

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

40

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn