PyTorch 1.x 升级到 2.x 后 torch.load() 报 RuntimeError: invalid load key，本质是序列化格式从 pickle 变为 zip 且默认不向下兼容；解决方法包括显式设 weights_only=False（需信任来源）、用旧版重存或通过 torch.jit.load()+state_dict 中转。
PyTorch 1.x 升级到 2.x 后 torch.load() 报 RuntimeError: invalid load key
这是最典型的跨版本权重加载失败现象，本质是 PyTorch 2.0+ 默认启用了新的序列化格式（zip 格式），而旧版保存的 .pt 文件是 pickle 格式，且默认不向下兼容解析。不是模型结构问题，是序列化协议变了。
解决方法很直接：
- 加载时显式指定
weights_only=False（PyTorch ≥ 2.0.1）——但仅适用于你**信任权重来源**，因该参数关闭安全反序列化校验 - 更稳妥的做法：用旧版 PyTorch（如 1.13）加载再保存一次，或改用
torch.jit.load()+state_dict()中转（见下一条） - 若报错含
Cannot interpret '...' as a data type，大概率是旧权重里存了自定义类或 lambda，需手动替换为可序列化的等价逻辑
用 torch.load() 加载旧版权重后 model.load_state_dict() 报键名不匹配
这不是版本问题，是保存方式导致的键前缀差异。常见于用 torch.nn.DataParallel 训练后保存的模型——state_dict 键名带 module. 前缀；而单卡加载时模型没包装，自然对不上。
快速修复方式：
立即学习“Python免费学习笔记（深入）”；
- 检查键名：打印
torch.load('xxx.pt').keys()和model.state_dict().keys()对比 - 自动剥离前缀：
state_dict = {k.replace('module.', ''): v for k, v in state_dict.items()} - 若旧权重是
model.module.state_dict()形式（即训练时用了 DDP 但保存的是子模块），则需反向加前缀：{'module.' + k: v for k, v in state_dict.items()} - 注意：PyTorch 2.0+ 的
torch.compile()模型会引入_orig_mod.前缀，加载时也要对应 strip 或 add
PyTorch 1.12 保存的 torch.jit.ScriptModule 在 2.1+ 上无法 torch.jit.load()
ScriptModule 的二进制格式在 1.13 → 2.0 之间有不兼容变更，尤其涉及 torch.Tensor 方法调用或自定义 torch.nn.Module 子类。错误信息常含 version mismatch 或 unknown opcode。
绕过方法有限，优先尝试：
- 用原始 PyTorch 版本（如 1.12）加载并导出为
state_dict+ Python 模型定义，再在新环境重建模型并加载state_dict - 若只有 .pt 文件且无源码，可用
torch._C._jit_pass_lower_graph(...)等内部 API 尝试降级（高风险，不推荐生产使用） - 确认是否真需 ScriptModule：多数部署场景用
torch.export.export()（PyTorch 2.2+）替代更稳定
混合精度训练保存的权重在非 AMP 环境加载后数值异常
不是版本问题，但常被误认为兼容性故障。典型表现：加载后模型输出全为 nan 或极小值，state_dict 中部分 float16 张量未正确转回 float32。
关键点：
-
torch.load()默认保持原始 dtype，不会自动 upcast —— 即使模型定义是float32，加载进来的仍是float16权重 - 解决方案：加载后统一转换：
state_dict = {k: v.float() for k, v in state_dict.items()} - 更健壮做法：在
load_state_dict()前设置模型为model.to(torch.float32)，再传入strict=False避免 dtype 不匹配报错 - 注意：
torch.compile()模型中某些 buffer（如 BatchNorm 的 running_mean）可能被强制设为float32，混用时需单独处理
跨版本权重加载真正的难点不在“怎么读进来”，而在“读进来之后是否还和原来一样工作”。dtype、device、module 包装层级、甚至 CUDA graph 的缓存状态，都可能静默破坏行为一致性。建议每次升级 PyTorch 后，用最小可复现样例跑一遍前向+后向+梯度检查，别只看 load_state_dict() 是否不报错。
