应优先使用 model.state_dict() 获取完整权重(含参数和缓冲区),通过键名前缀匹配(如 k.startswith("encoder.layer.11."))精确提取子模块,避免 in 操作误匹配,注意前缀末尾带点、区分大小写,并校验键名一致性。

直接用 model.state_dict() 获取全部权重,再按键名筛选
PyTorch 模型的权重不藏在层对象里,而是统一由 state_dict() 返回一个 OrderedDict,键是带层级路径的字符串(如 "encoder.layer.2.attention.self.query.weight"),值是 torch.Tensor。想提取特定层,本质是字符串匹配问题,不是递归遍历模块。
常见错误是试图用 for name, param in model.named_parameters(): 然后手动拼接前缀——这漏掉缓冲区(buffer,比如 BatchNorm 的 running_mean),而 state_dict() 包含参数 + 缓冲区,更完整。
- 优先调用
model.state_dict(),不是model.named_parameters() - 键名区分大小写,且含点号分隔符,正则或
str.startswith()更可靠,避免用in导致误匹配(比如匹配"fc"却抓到"fc1_weight"和"fc10_weight") - 若模型用了
torch.compile()或封装(如nn.DataParallel),需先取model.module.state_dict()或model._orig_mod.state_dict()
用 keys() 遍历 + startswith() 精确提取某子模块
例如只取编码器最后一层的全部权重(含 weight/bias/running_mean 等),直接过滤键名前缀最稳:
encoder_last_layer_prefix = "encoder.layer.11."
subset_sd = {k: v for k, v in model.state_dict().items() if k.startswith(encoder_last_layer_prefix)}这个操作是纯 Python 字典推导,无副作用,也不修改原模型。注意前缀末尾必须带点("layer.11."),否则会匹配到 "layer.110" 或 "layer.11_embed" 这类干扰项。
让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac,无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启:辅助功能 + 屏幕录制权限
立即学习“Python免费学习笔记(深入)”;
- 前缀必须与
state_dict()中实际键名完全一致,可用print(list(model.state_dict().keys())[:5])快速确认结构 - 若不确定前缀,先用
[k for k in model.state_dict().keys() if 'layer.11' in k]探路,再收紧为startswith() - 返回字典可直接传给
torch.nn.Module.load_state_dict(subset_sd, strict=False)加载回新模块
遇到 Missing key(s) in state_dict 或 Unexpected key(s) 怎么办
这是加载时最常报的两个错误,根源几乎全是键名不匹配:
-
Missing key(s):目标模块的state_dict()有键,但你传入的字典里没有——说明你过滤过严,或目标模块结构和原模型不一致(比如删了某层但没同步删对应键) -
Unexpected key(s):你传入的字典里有键,但目标模块当前state_dict()没定义——说明过滤过松,或目标模块比你预期少一层(比如用了精简版模型) - 调试时务必对比两边键集合:
set(your_dict.keys()) - set(target_module.state_dict().keys())找多出的;反过来找缺失的 - 加
strict=False可跳过不匹配项,但掩盖问题;真正修复要对齐键名或模块结构
提取后保存为独立文件或转成 NumPy 方便调试
拿到 subset_sd 后,常需要存下来做离线分析或跨框架转换:
- 保存为 PyTorch 文件:
torch.save(subset_sd, "layer11_weights.pth") - 转 NumPy(便于用 matplotlib 查看分布):
{k: v.cpu().numpy() for k, v in subset_sd.items()},注意先.cpu()再.numpy(),GPU 张量不能直转 - 若后续要喂给 ONNX 或其他推理引擎,注意有些工具要求键名不含点号(如
"layer_11_query_weight"),这时需重命名键:{k.replace(".", "_"): v for k, v in subset_sd.items()}
键名里的点号在多数场景下没问题,但一旦涉及 shell 路径、JSON 序列化或旧版工具链,就容易出意外——提前检查目标环境对键名的约束比事后调试省力得多。

















