不能真正共享GPU显存——PyTorch与TensorFlow因独立CUDA上下文和内存分配器导致架构冲突；set_memory_growth+empty_cache仍失败，主因是TF释放异步延迟、PT缓存清理不触TF显存块、双方初始化时预留驱动资源；唯一可靠隔离手段是CUDA_VISIBLE_DEVICES进程启动前硬隔离。
不能真正“共享”GPU显存——PyTorch 和 TensorFlow 各自维护独立的 CUDA 上下文与内存分配器，强行混用同一 GPU 进程会导致显存锁死、碎片化、RuntimeError: CUDA out of memory，这不是配置问题，而是架构冲突。
为什么 set_memory_growth + empty_cache 仍会失败
即使你正确设置了 tf.config.experimental.set_memory_growth(gpu, True) 并在切换前调用 torch.cuda.empty_cache()，依然可能报错。原因有三：
- TensorFlow 的 BFCAllocator 释放显存是异步且延迟的，PyTorch 的 caching allocator 看不到“已释放但未归还驱动”的空间
-
empty_cache()只清理 PyTorch 自己的缓存页，不触碰 TensorFlow 占用的显存块 - 两者初始化 CUDA context 时会各自预留底层驱动资源（如 CUDA stream、event、context metadata），这部分显存
nvtop能看到，但两个框架的 API 都不统计
CUDA_VISIBLE_DEVICES 是唯一可靠的隔离手段
不要依赖代码内设置设备索引或手动调用 torch.cuda.set_device() —— 它们在框架已初始化后无效，且与环境变量冲突时行为不可控。必须用 CUDA_VISIBLE_DEVICES 在进程启动前硬隔离：
- 让 TensorFlow 用卡 0：
CUDA_VISIBLE_DEVICES=0 python tf_train.py - 让 PyTorch 用卡 1：
CUDA_VISIBLE_DEVICES=1 python pt_infer.py - 如果只有一块 GPU，强制分时：先完整跑完 TF 脚本并退出进程，再启动 PT 脚本（不能靠
del model; gc.collect(); torch.cuda.empty_cache()撑过切换）
混合调试时显存数字对不上怎么办
这是正常现象，不是 bug。三个数值来源完全不同：
立即学习“Python免费学习笔记（深入）”；
-
nvtop显示的是驱动层总占用（含 CUDA context 开销、TF/PT allocator 底层页、甚至 NVML 缓存） -
tf.config.experimental.get_memory_info('GPU:0')返回的是 TensorFlow BFCAllocator 内部记录的已分配量（含预留未用部分） -
torch.cuda.memory_reserved()是 PyTorch caching allocator 当前保留但未分配给 tensor 的显存
别试图让它们相等——只要任务能跑通，就说明显存管理在各自框架内是自洽的。
最易被忽略的一点：哪怕你只写了一行 import tensorflow as tf，TensorFlow 就会立即初始化 CUDA context 并锁定显存。所以“临时导入 TF 做个预处理再切回 PT”这种操作，在单 GPU 上本质不可行。
