TensorFlow Lite是唯一可行路径，必须经tf.lite.TFLiteConverter转换为.tflite格式并量化（如INT8）才能在树莓派、ESP32-C3等嵌入式设备上部署；原生tf.keras.Model或SavedModel因Python解释器、内存占用和动态图机制完全不可行。
TensorFlow Lite 是唯一可行路径
直接在嵌入式设备（如树莓派、ESP32-C3、STM32MP1）上跑 tf.keras.Model 或 tf.saved_model.load() 几乎不可能——Python 解释器、CUDA 依赖、内存占用和动态图机制全都不兼容。必须转成 TensorFlow Lite（TFLite）格式，这是 TensorFlow 官方为边缘设备设计的轻量级运行时。
关键判断：不经过 tf.lite.TFLiteConverter 转换，就不存在“部署”这回事；哪怕模型只有几 MB，原生 TF 模型也跑不起来。
- 转换前必须用
tf.function包裹推理逻辑，否则converter.convert()会报ValueError: Cannot convert a graph with dynamic input shapes - 避免使用
tf.py_function、tf.print、tf.data等非可序列化操作，TFLite 不支持 - 推荐先在 x86 上完成转换和测试，再把
.tflite文件拷到目标设备——别在嵌入式端做转换
量化不是可选项，而是嵌入式硬性要求
未量化的 TFLite 模型（float32）在 Cortex-A7/A53 上推理慢、功耗高、内存吃紧。绝大多数嵌入式场景必须启用量化，否则无法满足实时性或供电约束。
常见错误是只加 converter.optimizations = [tf.lite.Optimize.DEFAULT] 就以为完成量化——这仅启用权重量化，输入/输出仍是 float32，对内存和速度改善有限。
立即学习“Python免费学习笔记（深入）”；
- 真正有效的做法是配合
representative_dataset做全整型量化：converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]+converter.inference_input_type = tf.int8+converter.inference_output_type = tf.int8 - 代表数据集必须真实、有代表性（比如 100–500 张典型输入图像），不能用随机噪声，否则量化后精度崩塌
- 量化后务必用
tf.lite.Interpreter在 PC 上验证输出数值是否合理，再烧录——很多问题在嵌入式端根本没法 debug
在树莓派上跑 TFLite 模型要绕开 pip 安装的坑
pip install tflite-runtime 在 Raspberry Pi OS（特别是 64-bit）上常因 ABI 不匹配失败，或装完后 import tflite_runtime.interpreter 报 ImportError: libstdc++.so.6: version `GLIBCXX_3.4.29' not found。
正确做法是放弃 pip，改用官方预编译 wheel：
- 去 TensorFlow Lite 官方 releases 页面 找对应架构的
tflite_runtime-*.whl（例如tflite_runtime-2.16.1-cp39-cp39-linux_armv7l.whl） - 用
wget下载后执行pip install tflite_runtime-*.whl --force-reinstall --no-deps - 验证：运行
python3 -c "import tflite_runtime.interpreter; print(tflite_runtime.interpreter.Interpreter)"不报错即成功
C++ 部署比 Python 更稳定，但得手动处理 I/O
树莓派上用 Python 跑 tflite_runtime 有时会遇到 GIL 锁死、内存碎片或信号中断导致 interpreter 崩溃；而 C++ 版本（libtensorflow-lite.a）无此问题，适合工业级长期运行。
代价是你要自己写代码把图像/传感器数据转成 uint8_t* 输入张量，并从输出张量里 memcpy 出结果——没有 model.predict() 那种便利。
- 输入预处理（归一化、resize）必须和训练时完全一致，尤其注意 OpenCV 的 BGR/RGB 顺序、像素值范围（0–255 还是 0–1）、均值方差是否已减
- TFLite 的
interpreter->AllocateTensors()必须在Invoke()前调用，漏掉就会 segfault - 建议用 CMakeLists.txt 显式链接
-ltensorflowlite -ldl -lpthread -lm，避免运行时报undefined symbol: __atomic_fetch_add_8
嵌入式部署最常被忽略的一点：模型输入尺寸和实际采集数据的对齐不是“差不多就行”，差一个像素、少一次除法、通道顺序颠倒，输出就彻底不可信——所有预处理逻辑必须和训练 pipeline 逐行比对。
