转换前需确认模型支持TFLite算子，检查SavedModel签名与ops列表，导出时禁用optimizer，确保tf.function输入shape静态；基础转换须配置supported_ops、inference_input/output_type；INT8量化必须提供representative_dataset且dtype/shape严格匹配；最后务必用Interpreter验证加载与推理。
转换前必须确认模型是否支持TFLite算子
不是所有SavedModel都能直接转成TFLite，尤其含自定义层、动态shape或未冻结控制流的模型，tf.lite.TFLiteConverter.from_saved_model() 会在转换时抛出 ConverterError 或静默降级为不支持的算子（如 FlexTensorScatterUpdate）。先用 saved_model_cli show --dir /path/to/model --all 检查输入输出 signature 是否明确，且 ops 列表里尽量不含 Flex 前缀操作。
- 推荐在 SavedModel 导出时就用
tf.keras.models.save_model(..., include_optimizer=False)，避免 optimizer 相关变量干扰 - 若模型含
tf.function且带input_signature，务必确保 signature 中 shape 是静态的（如[1, 224, 224, 3]而非[None, 224, 224, 3]） - 对含
tf.image或tf.nn高阶操作的模型，可先尝试converter.experimental_enable_mlir_converter = True启用新转换器路径
基础转换流程与关键参数设置
最简转换只需三行代码，但默认行为常导致推理失败：量化未启用、输入类型未指定、不兼容 op 被保留。实际部署前至少需配置 input_shapes 和 inference_input_type。
import tensorflow as tf
<p>converter = tf.lite.TFLiteConverter.from_saved_model("/path/to/saved_model")
converter.target_spec.supported_ops = [
tf.lite.OpsSet.TFLITE_BUILTINS,
tf.lite.OpsSet.SELECT_TF_OPS # 仅当真需要 Flex op 时才加
]
converter.inference_input_type = tf.int32 # 默认是 float32，但很多端侧芯片要求 int32 输入
converter.inference_output_type = tf.int32
tflite_model = converter.convert()</p><p>with open("model.tflite", "wb") as f:
f.write(tflite_model)
-
supported_ops不设默认值时会自动包含TFLITE_BUILTINS，但若模型含 TF op（如tf.unique），必须显式加SELECT_TF_OPS，否则报错 -
inference_input_type设为tf.int32时，需确保 SavedModel 的输入 signature 类型也是int32，否则转换失败 - 若 SavedModel 输入是
float32但想量化部署，应改用converter.optimizations = [tf.lite.Optimize.DEFAULT]并配合representative_dataset
量化转换必须提供 representative_dataset
仅设 Optimize.DEFAULT 不会生成量化模型，converter.convert() 仍输出 float32 模型。真正做 INT8 量化，必须传入 representative_dataset——它不是训练数据，而是能覆盖输入分布的少量（100–500）样本生成器。
def representative_data_gen():
for _ in range(100):
# 输入必须与 SavedModel 的 signature 完全一致：dtype、shape、batch 维度
yield [np.random.random((1, 224, 224, 3)).astype(np.float32)]
<p>converter.representative_dataset = representative_data_gen
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.target_spec.supported_types = [tf.int8]
converter.inference_input_type = tf.int8
converter.inference_output_type = tf.int8
- yield 的 numpy 数组 shape 必须匹配 SavedModel 的 input signature，比如 signature 是
(1, None, None, 3)，就得用np.expand_dims(img, 0)补 batch 维 - 如果 dataset 返回
float32但inference_input_type设为int8，转换会卡住或崩溃，此时应先做归一化（如(img * 255).astype(np.uint8)）再 yield - 量化后模型体积通常缩小 4 倍，但精度损失需实测验证；部分 ops（如 LSTM）量化支持有限，可能 fallback 到 float
验证 TFLite 模型能否正确加载和推理
生成的 .tflite 文件可能语法合法但无法执行——常见原因是输入 tensor 名称/shape 与预期不符，或量化参数损坏。别跳过验证步骤。
立即学习“Python免费学习笔记（深入）”；
interpreter = tf.lite.Interpreter(model_path="model.tflite") interpreter.allocate_tensors() <p>input_details = interpreter.get_input_details()[0] output_details = interpreter.get_output_details()[0]</p><h1>确保输入数据 dtype 和 shape 匹配 input_details["dtype"] 和 input_details["shape"]</h1><p>input_data = np.ones(input_details["shape"], dtype=input_details["dtype"]) interpreter.set_tensor(input_details["index"], input_data) interpreter.invoke() output = interpreter.get_tensor(output_details["index"])
- 若
interpreter.invoke()报RuntimeError: tensorflow/lite/kernels/conv.cc:393 t->params.layout != kTfLiteNCHW，说明模型用了 NCHW layout，但 TFLite 只支持 NHWC，需在 SavedModel 导出前转 layout -
input_details["shape"]可能含 -1（动态 batch），此时必须用interpreter.resize_tensor_input()显式设 shape 再allocate_tensors() - 量化模型中，
input_details["dtype"]通常是np.int8，但 scale/zero_point 信息已内嵌，无需手动反量化
实际转换中最容易被忽略的是 SavedModel 的 input signature 与 TFLite 推理时 feed 数据的严格一致性——差一个维度、少一个 batch、dtype 不匹配，都会在 invoke() 时才暴露，而不是转换阶段。
