PyTorch加载TensorFlow/ONNX权重需手动映射key并调整维度：先打印双方key比对，按规则转换命名（如/→.、kernel→weight），weight需permute(3,2,0,1)，BN四参数必须全加载，最后用自定义state_dict+strict=True验证。
PyTorch加载TensorFlow/ONNX预训练权重时Key不匹配
直接load会报Missing key(s) in state_dict或Unexpected key(s) in state_dict——因为不同框架命名习惯完全不同，比如TensorFlow常用conv2d/kernel:0，PyTorch是conv1.weight，连斜杠/冒号/下划线都对不上。
核心不是“怎么读文件”，而是“怎么把A框架的key翻译成B框架能认的key”。先用torch.load（或np.load/onnx.load）拿到原始权重字典，再手动做字符串映射。
- 别直接
model.load_state_dict(ckpt)，先打印双方key看差异：print(list(model.state_dict().keys())[:3])和print(list(ckpt.keys())[:3]) - 常见映射规则：去掉
:0后缀、/换成.、kernel→weight、bias→bias、BatchNorm/moving_mean→bn1.running_mean - 注意维度顺序：TensorFlow是
[H,W,C_in,C_out]，PyTorch是[C_out,C_in,H,W]，加载weight后必须.permute(3,2,0,1)或.transpose(0,3).transpose(1,2)
自定义load_state_dict绕过strict检查
PyTorch默认strict=True，只要有一个key没对上就报错。但你其实只需要加载部分层（比如backbone），其余随机初始化——这时候得关掉严格模式，自己控制赋值逻辑。
不要依赖strict=False自动跳过，它只是静默忽略，无法处理命名+形状双重错位。
- 手动构建新
state_dict：new_sd = {}，遍历模型自己的model.state_dict().keys()，从原始ckpt里找对应key并转换 - 对每个key，用
new_sd[name] = torch.from_numpy(ckpt[raw_key]).reshape(param.shape)，强制形状对齐 - 最后调用
model.load_state_dict(new_sd, strict=True)验证是否全加载成功
ResNet/BERT这类结构固定模型的典型映射表
ResNet50在TensorFlow SavedModel里叫resnet50/block1/unit_1/bottleneck_v1/conv1/weights，PyTorch里是layer1.0.conv1.weight——这种硬编码映射没法靠正则一劳永逸，得按模型结构分段写。
建议拆成三块处理：stem（stem.conv1.weight）、stage（layer1.0.conv1.weight）、head（fc.weight），每块单独写映射函数，比全局replace更稳。
- 卷积层：
conv\d+/weights→conv{N}.weight，注意TF里conv1可能对应PyTorch的conv2（因stem算单独一层） - BN层：
batch_normalization/gamma→bn{N}.weight，beta→bias，moving_mean→running_mean - BERT：HuggingFace的
bert.encoder.layer.0.attention.self.query.weight和原生TF的bert/encoder/layer_0/attention/self/query/kernel，注意layer_0vslayer.0点号/下划线差异
加载后验证权重是否真生效
很多人map完就以为完事了，结果forward输出全是nan或全零——因为shape转错了、BN的running_var没设、或者weight和bias维度搞反了。
最简单的验证不是看loss降没降，而是比对单层输出：冻结其他层，只跑一个conv+bn模块，输入固定torch.ones(1,3,224,224)，对比TF和PyTorch该模块的输出tensor是否接近（torch.allclose(out_pt, out_tf, atol=1e-5)）。
- BN层必须同时加载
running_mean、running_var、weight、bias，缺一个就会崩 - Linear层bias在TF里可能叫
biases（复数），且有时被合并进dense层一起存，得拆出来 - 如果原始ckpt是FP16保存的，PyTorch默认读成FP32，但某些TF ckpt里weight是uint8量化过的，需要额外解量化步骤
这件事最难的不是写映射逻辑，而是确认每个TF/ONNX key到底对应PyTorch里哪个tensor——得一边翻源码（比如TF Slim的resnet_v1.py），一边print shape比对。没捷径，只能逐层钉死。
