显存滞留主因是图缓存、引用残留与动态构建叠加：tf.function因输入shape波动缓存多图；模型对象隐式持有Graph引用；tf.data迭代器未耗尽残留设备引用；训练循环中重复调用新增图节点。
不是模型“泄漏”，而是图缓存、引用残留和动态构建叠加导致的显存滞留——del model 无效，tf.keras.backend.clear_session() 有时也压不住，得拆开看哪一层卡住了。
tf.function 动态输入引发图缓存爆炸
用 @tf.function 包裹推理函数时，TensorFlow 会为每个 unique input_signature（shape + dtype 组合）缓存一份完整计算图。如果输入 shape 波动（比如 batch size 不固定、文本长度随机），每次请求都生成新图，旧图不释放。
- 现象：
nvidia-smi显存持续上涨，len(tf.get_default_graph().get_operations())随请求线性增长 - 验证方式：加日志打印
tf.autograph.trace，或检查model.signatures数量是否异常增多 - 解决办法：
- 强制统一签名：
@tf.function(input_signature=[tf.TensorSpec(shape=[None, 224, 224, 3], dtype=tf.float32)]) - 预处理输入：padding / clip 到固定 shape，避免 runtime 变长
- 禁用自动追踪：
@tf.function(autograph=False)（仅当确认无 if/while 等控制流时）
- 强制统一签名：
模型对象隐式持有 Graph 引用
tf.keras.models.load_model() 或 tf.saved_model.load() 返回的对象内部绑定了 ConcreteFunction 和底层 C++ Graph。只要它被模块级变量、类属性或闭包捕获，整个图结构就无法被 GC 回收。
-
del model只删 Python 层引用，C++ 图仍驻留 GPU/CPU 内存 - 常见陷阱：把 model 放在文件顶层、或
self.model = load_model()后没做生命周期管理 - 实操建议：
- 长周期服务中改用函数封装，每次推理前用
with tf.device("/CPU:0"):把 model 卸载到 CPU，再del model - 更彻底方案：用
multiprocessing子进程隔离模型加载与推理，进程退出即释放全部资源
- 长周期服务中改用函数封装，每次推理前用
tf.data 迭代器未耗尽残留设备引用
用 tf.data.Dataset.from_generator() 或复杂 pipeline 构建数据集时，迭代器对象（Iterator）持有图节点和设备内存引用。若只取部分 batch 就中断（如 HTTP 请求断连、异常退出），底层 CUDA kernel 和缓冲区可能卡住。
快速生成专业的 Python 脚本和应用代码。一键创建完整项目结构，支持CLI、API、爬虫、Bot、Django等多种项目类型，包含完整的项目结构、配置文件、依赖管理、测试、README和文档。
立即学习“Python免费学习笔记（深入）”；
- 典型线索：
tf.data.experimental.cardinality(dataset)返回-2（unknown），且显存不降 - 必须用
try/finally保证迭代器耗尽或显式释放：it = iter(dataset) try: next(it) finally: del it - 替代方案：避免
from_generator，改用Dataset.from_tensor_slices()+map()，更易被 TensorFlow 自动管理生命周期
训练循环中意外新增图节点
在 for 循环里反复调用 sess.run(x + y) 或 model(x)（非预编译图），会导致每次执行都新建 op 节点。尤其在老式 Session 模式下，这种写法极易让图无限膨胀。
- 错误模式：
for img in imgs: pred = model(img)—— 若model是 Keras Model 且未提前compile或未用@tf.function封装，每次调用都在构建新子图 - 正确做法：
- 提前用
@tf.function封装推理逻辑，或直接用model.predict() - 确保输入是 tensor，不是 numpy array（否则触发 eager 模式重复构建）
- 避免在循环内定义新
tf.Variable、tf.constant或任何 op
- 提前用
- 调试技巧：在循环开头加
tf.get_default_graph().finalize()，一旦新增节点立刻报错定位
真正难处理的是图缓存 + Python 引用 + eager 模式混合导致的叠加效应——比如一个全局 list 里 append 了中间 tf.Tensor，它既拖住计算图，又阻止 GC，还可能让 tf.function 错误地把它当输入签名的一部分。
