QAT必须使用支持量化的核心层且禁用混合精度；需通过tfmot.quantize_model包装模型，自定义层须注册QuantizeConfig；训练时学习率应调至1e-4～5e-4、batch size≥32，并用代表性数据集导出TFLite。
量化感知训练前必须确认模型是否支持QAT
TensorFlow 的量化感知训练（QAT）不是所有模型都能直接套用，核心限制在于模型结构是否使用了 tf.keras.layers 中的可量化层（如 Dense、Conv2D、ReLU），且不能包含自定义 tf.function 或未封装的原生 tf.nn 操作。如果你用 tf.keras.Sequential 或函数式 API 构建，并全程使用标准 Keras 层，大概率能走通；但若模型里混用了 tf.add、tf.multiply 等底层算子，或手动写了 @tf.function 的前向逻辑，QAT 会静默跳过这些部分，导致量化失效。
验证方式很简单：在模型构建后调用 tf.lite.TFLiteConverter.from_keras_model(model) 尝试转换（不启用量化），如果报错提示 “Unsupported operation” 或 “No quantization support”，说明存在不可量化节点。
启用QAT必须用 tf.keras.utils.get_custom_objects 注册量化层
TensorFlow 2.x 的 QAT 不是给原始模型“打补丁”，而是通过 tf.quantization.quantize_model 或更常用的 tf.keras.utils.get_custom_objects + tfmot.quantization.keras.quantize_model 替换原有层为带模拟量化器的版本。关键点是：替换后的模型必须能被 Keras 正确序列化和加载，否则训练中断后无法恢复。
- 不要直接修改原始模型的
layers列表——这会导致权重不匹配或反向传播失败 - 必须用
tfmot.quantization.keras.quantize_model(model)包装整个模型，它会自动插入QuantizeLayer和FakeQuantWithMinMaxVars节点 - 如果模型含自定义层，需先继承
tfmot.quantization.keras.QuantizeConfig并注册到get_custom_objects，否则quantize_model会报ValueError: Layer xxx is not supported
训练时 batch size 和学习率要重新调优
QAT 引入的 fake-quant 节点会在前向中引入梯度截断和舍入噪声，导致 loss 曲线抖动变大、收敛变慢。默认的 Adam 学习率（如 1e-3）往往过高，容易让量化参数（scale/zero_point）震荡发散。
立即学习“Python免费学习笔记（深入）”；
- 建议将初始学习率降到
1e-4～5e-4，并在训练中期用tf.keras.callbacks.ReduceLROnPlateau监控 val_loss - batch size 建议不低于 32：太小的 batch 会让 per-channel 量化统计（如
tf.quantization.MovingAverageQuantizer）不稳定 - 务必关闭混合精度训练（
mixed_float16）——QAT 与tf.keras.mixed_precision.Policy不兼容，会触发InvalidArgumentError: Quantized op requires float32 inputs
导出 TFLite 模型时必须指定 representative_dataset
QAT 训练完的模型仍是浮点模型，只是带了量化模拟信息；真正生成 int8 TFLite 模型需要离线校准，而 representative_dataset 就是这个校准数据源。它不是随便喂几个 batch，而是必须覆盖模型实际推理时的典型输入分布。
常见错误是用训练集子集甚至全零输入生成 representative_dataset，结果导出的 TFLite 模型在真实设备上输出全 NaN 或数值坍缩。正确做法：
- 从验证集中随机采样 100–1000 个样本（无需 label），确保涵盖不同光照、尺度、类别等场景
- dataset 必须是
tf.data.Dataset类型，且 map 函数返回单个预处理后的input_tensor（shape 与模型 input 一致） - 导出时调用
converter.representative_dataset = representative_dataset，并设置converter.optimizations = [tf.lite.Optimize.DEFAULT]
漏掉 representative_dataset 或数据分布偏差太大，导出的模型虽然能 load，但推理结果和原始浮点模型差异可能超过 20% —— 这种问题在边缘设备上很难 debug，只能回溯重训。
