PyTorch评估模式下Dropout仍在运行，说明model.eval()未正确生效或被后续train()覆盖；必须确保model.training为False，配合torch.no_grad()使用，并逐层验证子模块training状态。
PyTorch评估模式下Dropout仍在运行，说明模型没真正进入 eval() 状态，或者你在推理时误用了训练用的模型实例。
确认模型是否真的调用了 eval()
常见错误是只对模型某一层调用 eval()，或调用后又意外触发了 train()。Dropout 是否生效，取决于 self.training 属性值——它必须为 False。
- 检查是否在推理前执行了
model.eval()，且该调用没有被后续的model.train()覆盖 - 验证状态：
print(model.training)应输出False；若为True，说明仍处于训练模式 - 注意：
eval()不递归作用于所有子模块——但 PyTorch 默认会递归设置，除非你手动重写了eval()方法
检查是否在 torch.no_grad() 外执行了前向传播
torch.no_grad() 和 model.eval() 是两个独立机制：前者禁用梯度计算，后者控制 Dropout/BatchNorm 行为。漏掉 eval()，即使有 no_grad，Dropout 仍会随机丢弃神经元。
- 正确组合是：
model.eval()+with torch.no_grad(): - 错误写法：
with torch.no_grad(): model(input)但没提前调用model.eval() - 特别注意 DataLoader 的
shuffle=True或其他训练相关参数不会影响 Dropout，但容易让人误以为“设置了 no_grad 就够了”
排查自定义模块或第三方封装中的隐式 train()
某些模型包装器（如 Hugging Face 的 Trainer、LightningModule 的 predict_step）可能在内部自动切换模式，也可能在 predict 前未显式设为 eval。
立即学习“Python免费学习笔记（深入）”；
- 如果你用了
model = MyModel().cuda().eval()，但之后又传给某个 wrapper（如torch.nn.DataParallel），需确认 wrapper 是否保留了training=False - 检查是否有子模块被单独设为训练模式，例如：
model.encoder.train()—— 这会覆盖整体eval()，导致 encoder 内 Dropout 继续生效 - 打印各子模块状态：
for name, m in model.named_modules(): print(name, m.training)，重点看含Dropout的模块
验证 Dropout 是否真被跳过：用固定输入+固定 seed 观察输出稳定性
Dropout 在 eval 模式下应完全静默——同一输入反复 forward，输出必须完全一致。这是最直接的验证方式。
- 设置
torch.manual_seed(42)和torch.backends.cudnn.deterministic = True - 运行两次
model(input)，对比输出张量是否torch.equal(out1, out2) - 如果输出不同，说明至少有一个 Dropout 层没进 eval 模式；此时再逐层检查
m.training - 注意：BatchNorm 在 eval 模式下也冻结 running stats，但它的行为变化不如 Dropout 明显，别把它当成判断依据
最容易被忽略的是模型对象被多次实例化或被 wrapper 重新包装，导致你以为调用了 eval()，实际作用在另一个对象上。建议在推理入口处加一行 assert not model.training, "Model is still in training mode"。
