XGBoost GPU内存不释放是因DMatrix和树构建的CUDA缓冲未主动回收，非Python对象泄漏；需调用dtrain.free_buffer()、xgb.rabit.finalize()或进程隔离来释放。
为什么XGBoost训练时显存不释放
XGBoost本身不依赖PyTorch/TensorFlow，但它的显存（更准确说是GPU内存）占用高，往往不是“显存泄漏”，而是DMatrix和树构建过程中的**内存驻留行为被误判为泄漏**。它用的是CUDA加速（启用tree_method='gpu_hist'时），但内存管理完全由XGBoost内部控制，Python的del或gc.collect()对底层CUDA缓冲几乎无效。
常见现象：训练完一个模型后，nvidia-smi显示GPU内存仍被占满，即使已del model、del dtrain，甚至退出函数作用域——这是因为XGBoost的GPU直方图缓存、临时排序数组、分位数草图等结构未被主动回收，且没有暴露清空接口。
-
DMatrix构造时会预分配大量GPU内存，尤其当feature_names含长字符串或missing参数触发特殊处理时，开销翻倍 - 启用
gpu_hist后，每轮迭代需维护多块直方图缓冲区，大小与特征数×bin数量正相关；默认max_bin=256，1000维特征就可能占300MB+ - 调用
xgb.train()多次（如网格搜索）却不重置上下文，旧DMatrix的GPU内存不会自动复用，而是叠加申请
如何确认是XGBoost而非Python对象导致的内存滞留
先排除干扰项：运行nvidia-smi观察GPU-Util和Memory-Usage，同时在Python中检查torch.cuda.memory_allocated()（如果装了PyTorch）或tf.config.experimental.get_memory_info("GPU:0")（如果装了TF）。若这些返回值很小，但nvidia-smi里显存仍高，基本可锁定是XGBoost的CUDA内存未释放。
进一步验证：
让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac，无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启：辅助功能 + 屏幕录制权限
立即学习“Python免费学习笔记（深入）”；
- 只导入
xgboost，不碰PyTorch/TF，执行一次dtrain = xgb.DMatrix(X, y)→nvidia-smi显存跳升 →del dtrain→ 显存不变 → 就是XGBoost自身行为 - 改用
tree_method='hist'（CPU版）再试，nvidia-smi无变化 → 确认问题仅出现在GPU后端
真正有效的释放手段（非del、非gc）
XGBoost没有empty_cache()这类API，但有隐式释放路径：必须**显式销毁DMatrix底层句柄**，并**强制卸载CUDA上下文**。关键操作不是删除Python变量，而是调用其free_buffer()方法（v1.7+）或重建进程隔离。
- 对每个
DMatrix实例，在不用之后立即调用dtrain.free_buffer()—— 这会释放其持有的GPU内存，比del可靠得多 - 避免复用同一
DMatrix跨多轮训练；每次新训练前重建DMatrix，并在训练后立刻.free_buffer() - 在Jupyter中反复调试时，不要靠重启kernel，而应在代码末尾加：
import gc<br>gc.collect()<br>import xgboost as xgb<br>xgb.rabit.finalize() # 强制清理Rabit通信上下文（多卡场景必需）
- 生产脚本中，用
subprocess把单次XGBoost训练封装成独立进程，天然隔离GPU内存
容易被忽略的配置放大器
几个默认参数会让GPU内存占用陡增，且不易察觉：
-
max_bin：默认256，对高基数类别特征极不友好；设为128或64可降显存30%~60%，代价是轻微精度损失 -
sample_type和normalize_type（GPU Hist特有）：启用'weighted'采样会额外维护权重直方图，显存+20% -
predictor='gpu_predictor'虽加速预测，但会常驻GPU缓冲；若只训不推，训练时设predictor='cpu_predictor'，训完再切回GPU预测 - 传入
DMatrix的X如果是pandas.DataFrame，XGBoost会内部转numpy再上GPU，中间拷贝放大内存峰值；优先用np.array(X, dtype=np.float32)预转换
最顽固的情况：多卡训练中rabit上下文未正确终结，残留GPU张量无法释放。此时唯一干净解法是进程级隔离——别省那点启动开销，让每次训练活在自己的subprocess里。
