TensorFlow 2.x 跨语言部署唯一可靠格式是 SavedModel，需显式指定 save_format="tf"、预运行确保 trace 完毕、避免冻结图；C++ 加载须用绝对路径、匹配 ABI、严格校验签名与张量名。
导出 SavedModel 格式是唯一可靠起点
TensorFlow 2.x 官方只推荐且稳定支持 SavedModel 作为跨语言部署的中间格式，HDF5（.h5）或 tf.keras.models.load_model 直接保存的模型无法被 C++ API 加载。导出前必须确保模型已构建完成、权重已加载，且不依赖 Python 层自定义逻辑（如未注册的 @tf.function 外部闭包、NumPy 调用、print 等）。
实操建议：
- 用
model.save("path/to/saved_model", save_format="tf")—— 显式指定save_format="tf"避免意外存成 HDF5 - 导出前调用一次
model(tf.ones([1, *input_shape]))确保所有子图已 trace 完毕（尤其对动态 shape 模型） - 检查导出目录下是否存在
saved_model.pb和variables/子目录，缺一不可
冻结图已弃用，别碰 tf.graph_util.convert_variables_to_constants
TensorFlow 2.x 的 C++ LoadSavedModel 接口只接受原生 SavedModel，不再支持冻结后的 .pb 文件。试图用 TF1 风格的冻结流程会失败，典型错误是 Not found: Op type not registered 'Switch' 或 Failed to load graph def —— 这是因为冻结过程破坏了 SavedModel 的元数据与变量绑定关系。
如果你看到旧教程还在教 freeze_graph.py 或手动调用 convert_variables_to_constants，直接跳过。C++ 端加载时只能用：
立即学习“Python免费学习笔记（深入）”；
auto status = tensorflow::LoadSavedModel(session_options, run_options,
"path/to/saved_model",
{"serve"}, &bundle);
其中 {"serve"} 是 signature key，必须和导出时一致。
签名（signature）必须显式定义，否则 C++ 端找不到输入输出节点
默认导出的 SavedModel 只有 serving_default 签名，但它的输入输出张量名由框架自动生成（如 input_1:0），难以预测且易变。C++ 代码需明确通过 bundle.GetSignatures() 或 bundle.session->ListOperations() 查看真实名称，非常麻烦。
推荐做法：导出时用 tf.keras.models.save_model + 自定义 signatures 参数：
@tf.function
def serving_fn(x):
return model(x)
concrete_func = serving_fn.get_concrete_function(
tf.TensorSpec([None, 224, 224, 3], tf.float32, name="input_image")
)
tf.keras.models.save_model(
model,
"export_dir",
signatures={"serving_default": concrete_func}
)
这样 C++ 端就能稳定使用 "input_image" 作为输入张量名，无需猜测。
C++ 加载时最常卡在路径、ABI 和签名不匹配
即使 Python 端导出无误，C++ 侧仍可能报 Not found: Could not find directory、Invalid argument: No OpKernel was registered to support Op 或 Invalid argument: Input ... does not exist。这些问题基本都指向三类硬伤：
-
saved_model路径含中文、空格或软链接 —— C++ API 对路径解析极脆弱，务必用绝对路径且不含特殊字符 - 编译 TensorFlow C++ 库时 ABI 版本不匹配（如 Python 用 GCC 11 编译的 TF，C++ 项目用 GCC 9 链接）—— 必须统一 GCC 版本、CXX ABI（
_GLIBCXX_USE_CXX11_ABI）、CUDA/cuDNN 版本 - 签名 key 或 tensor name 写错一个字母（如
"input_image"写成"input_img"）—— C++ 不报语法错误，只在session->Run()时静默失败
调试建议：先用 Python 的 tf.saved_model.load() 加载导出目录，调用 dir(loaded.signatures["serving_default"]) 和 loaded.signatures["serving_default"].structured_input_signature 确认名称和 shape，再照抄到 C++ 里。
