torch.onnx.export 导出失败主因是模型含动态结构或 ONNX 不支持算子；需用 eval() 和 no_grad()、正确配置 dynamic_axes、替换不支持操作并验证 shape/数值一致性。
torch.onnx.export 为什么导出失败：常见报错和绕过方法
导出失败大多卡在模型动态结构或不支持的算子上，不是代码写错了，而是 PyTorch 和 ONNX 的语义对不上。
-
RuntimeError: Exporting the operator xxx to ONNX opset version xxx is not supported：说明用了 ONNX 不认的自定义/高阶操作（比如torch.einsum、torch.scatter_reduce），优先替换成等价的torch.matmul+torch.sum或改用opset_version=18（需 torch ≥ 2.1） -
TypeError: forward() missing 1 required positional argument：传给torch.onnx.export的args必须是 tuple，哪怕只有一个输入也要写成(x,)，不是x - 模型里有
if x.shape[0] > 1:这类依赖 tensor shape 的控制流？ONNX 静态图无法表达，得提前用torch.jit.trace或重写为torch.where
export 时要不要用 torch.no_grad() 和 eval()？
要，而且必须显式调用，否则训练态的 dropout/batchnorm 会被导出，导致推理结果不一致甚至崩溃。
-
model.eval()关闭所有可训练层的特殊行为（比如 BN 使用 running stats 而非 batch stats） -
torch.no_grad()不仅省显存，还能防止某些 autograd-only 算子（如torch.autograd.grad）意外混入计算图 - 顺序很重要：先
model.eval()，再进torch.no_grad()块，最后调用torch.onnx.export
input_names / output_names 和 dynamic_axes 怎么配才不出错
名字本身不影响推理，但 dynamic_axes 是 ONNX Runtime 加载时做 shape 推导的关键，配错会导致运行时报 InvalidArgument。
python-script-generator
下载
快速生成专业的 Python 脚本和应用代码。一键创建完整项目结构，支持CLI、API、爬虫、Bot、Django等多种项目类型，包含完整的项目结构、配置文件、依赖管理、测试、README和文档。
-
input_names=['input']和output_names=['output']只是符号名，和后续推理代码里的 binding 名字要对上，但不强制一致 -
dynamic_axes={'input': {0: 'batch', 2: 'height'}, 'output': {0: 'batch'}}：键必须是 input/output 名，值 dict 的 key 是维度索引（从 0 开始），value 是该维度的逻辑名；同一个逻辑名（如'batch'）在多个 tensor 间共享，才能被 ONNX Runtime 正确绑定 - 如果某维固定为 1（如 NLP 的 seq_len=512），就别放进
dynamic_axes，否则 ONNX Runtime 会认为它可变，反而限制部署灵活性
导出后怎么快速验证 ONNX 模型能跑通
别急着扔进生产环境，先用 ONNX Runtime 做最小闭环验证，重点看输出 shape 和数值是否合理。
立即学习“Python免费学习笔记（深入）”；
- 用
onnx.load('model.onnx')+onnx.checker.check_model()确保文件结构合法（很多“导出成功但加载失败”其实是校验没过） - 用
ort.InferenceSession('model.onnx')加载后，用跟导出时完全一样的输入数据（numpy array，dtype 匹配，例如 float32）调session.run()，对比 PyTorch 原始输出的np.allclose(..., atol=1e-4) - 如果数值偏差大，大概率是 BN 层没设
eval()，或者模型里用了torch.nn.functional.interpolate且mode='nearest'在 ONNX 里被映射成不同实现
ONNX 不是万能胶水，每个模型导出都得单独过一遍 shape、算子、数值三关。最常被跳过的其实是 dynamic_axes 和 eval() 的配合——这两处一漏，后面所有加速和跨平台都白搭。
