报错“No op named Placeholder”源于TF 1.x风格SavedModel在TF 2.x中被误用;必须用tf.keras.models.save_model导出、显式指定input_signature、规避PyFunc等不支持算子,并启用--fold_const优化模型体积。

tf2onnx.convert_from_saved_model 报错 “No op named Placeholder in defined operations”
这是 TensorFlow 1.x 风格的 SavedModel(含 tf.placeholder)在 TF 2.x 环境下被误用的典型表现。tf2onnx 默认只支持 TF 2.x 原生 SavedModel(即通过 model.save() 或 tf.keras.models.save_model() 保存的、不含 placeholder 的格式)。
- 确认模型导出方式:必须用
tf.keras.models.save_model(model, "path/to/saved_model", save_format="tf"),不能是tf.saved_model.save()手动构建的低阶 SavedModel(尤其含tf.compat.v1代码) - 检查 SavedModel 目录结构:应包含
saved_model.pb和variables/子目录;若只有checkpoint文件或.h5,需先转成 TF 格式 SavedModel - 运行前加环境变量(关键):
os.environ["TF_CPP_MIN_LOG_LEVEL"] = "2"可屏蔽干扰日志,避免误判错误来源
输入输出 tensor 名称不匹配导致 ONNX 推理失败
tf2onnx 默认会自动推断输入输出,但对自定义模型(如带预处理子图、多输入/输出 Keras 模型)极易出错——ONNX runtime 加载后发现 session.run() 传入的 input name 根本不存在。
- 导出时显式指定:
input_signature必须与模型实际 call 签名一致,例如tf.TensorSpec((None, 224, 224, 3), tf.float32, name="input_1");name 字段会成为 ONNX 输入名 - 导出后立刻验证:
onnx.load("model.onnx")查看graph.input和graph.output的name字段,确保和你推理代码里写的字符串完全一致(注意大小写、下划线) - 避免依赖默认命名:Keras 层名(如
conv2d_input)可能被 tf2onnx 改写为input:0,此时必须用"input:0"而非原层名
tf2onnx 不支持某些 TF 操作(如 tf.py_function、tf.numpy_function)
这些操作本质是 Python 回调,在 ONNX 中无对应算子,转换直接失败,报错类似 Unsupported ops: Counter({'PyFunc': 1})。
- 提前筛查:运行
python -m tf2onnx.convert --check-opset --saved-model path/to/model,它会列出所有 ops 及是否支持 - 替换方案优先级:用纯 TF ops 重写(如用
tf.image.resize替代自定义 cv2 resize)、拆出预处理逻辑到 Python 端(ONNX 只负责核心网络)、或改用tf.keras.layers.Lambda+ 支持 op 组合 - 不要试图用
--opset 15强升版本解决:PyFunc 在任何 ONNX opset 中都未定义,升版本只会掩盖问题
导出后 ONNX 模型尺寸暴增 3–5 倍
常见于使用 tf.keras.applications 加载的预训练模型,特别是含 BatchNorm 层的——tf2onnx 默认把 BN 的 running_mean/var 当作常量嵌入 ONNX graph,而非参数。
- 启用权重折叠:
--fold_const参数必须加上,否则大量中间 const node 会膨胀模型 - 禁用调试信息:
--no-tf2onnx-log和--skip-optimize不要用,前者不影响体积,后者反而让优化器跳过 const folding - 验证是否生效:用
onnx.shape_inference.infer_shapes_path("model.onnx")后再保存,可进一步精简 shape 相关冗余节点
ONNX 导出不是“一键转换”,关键在 SavedModel 的生成方式、输入签名的显式控制、以及对不支持 ops 的前置清理——漏掉任意一环,后续推理都会卡在奇怪的地方。


















