TensorFlow 2.x 不支持开箱即用的在线增量学习，必须用 tf.train.Checkpoint 统一保存/恢复模型与优化器状态，否则跳过 momentum/velocity 会导致梯度失准和 CTR 预估偏差扩大 18%+。
直接上结论：TensorFlow 2.x 原生不支持“开箱即用”的在线增量学习（tf.keras.Model.train_on_batch 只是微调，不是持续学习），必须手动管理模型状态、优化器状态和潜在的回放逻辑，否则几轮更新后就会出现灾难性遗忘或梯度失准。
必须 restore optimizer 的一阶/二阶状态，不能只 load model weights
很多人只调用 model.load_weights()，以为这就完成了模型恢复——错。Adam 等优化器内部维护着 momentum 和 velocity（即一阶、二阶动量），这些状态决定了下一步参数更新的方向和步长。如果跳过它们，新批次数据会以错误的梯度尺度更新，尤其在流量波动时段（如凌晨 vs 晚高峰），会出现系统性高估或低估（我们线上曾观察到 CTR 预估偏差扩大 18%+）。
正确做法是使用 tf.train.Checkpoint 统一保存/恢复整个训练状态：
ckpt = tf.train.Checkpoint(model=model, optimizer=optimizer) ckpt.restore(tf.train.latest_checkpoint(checkpoint_dir))
- 务必确保
optimizer实例在Checkpoint构建前已创建，且与训练时完全同构 - 不要用
model.save_weights_only=True，它丢弃 optimizer 状态 - 检查
ckpt.restore(...).assert_consumed()是否报错，避免部分变量未加载
tf.keras.Model.train_on_batch 是起点，但不是终点
这个函数能让你用单个 batch 更新模型，但它本身不解决增量学习的核心矛盾：遗忘旧知识。它只是传统训练的“切片”，没有内置保护机制。
立即学习“Python免费学习笔记（深入）”；
仅使用 Python 将 Claw Code 虚拟化框架与 OpenClaw 集成，提供 184 种工具和 200 多条命令，用于安全分析和代码质量...
真实业务中，你至少要叠加一层策略：
- 若新数据量少（如每天新增 ReplayBuffer），每 3–5 次
train_on_batch插入 1 次历史样本 batch - 若新任务有明显类别偏移（如突然上线科幻类电影），需启用 EWC（弹性权重固化），用
Fisher 信息矩阵对关键参数加正则项，λ 建议从 0.5 开始试 - 绝对避免在
train_on_batch后调用model.reset_states()（LSTM/GRU 场景），这会清空隐藏状态，破坏时序建模连续性
Embedding 层动态扩容必须绕开 GraphDef 膨胀陷阱
当新特征 ID（如新用户、新电影）不断涌入，tf.keras.layers.Embedding 的 input_dim 固定会导致 OOV。想动态增长？别用 assign(new_array) 直接写入图——它会把整个 numpy 数组塞进 graph.pbtxt，不出两周就触发 "Cannot serialize protocol buffer ... larger than the limit (2147483647 bytes)" 错误。
安全做法是改用 tf.Variable + tf.scatter_nd_update（TF 1.x）或 tf.tensor_scatter_nd_update（TF 2.x）：
# TF 2.x 示例：仅更新新增 ID 对应的 embedding 行
new_ids = [1001, 1002, 1003] # 新特征 ID
new_embeddings = tf.random.normal([len(new_ids), embed_dim])
updated_emb = tf.tensor_scatter_nd_update(
embedding_var,
indices=tf.expand_dims(new_ids, axis=1),
updates=new_embeddings
)
- 永远不要用
np.concatenate+assign扩容 embedding 矩阵 - 新 ID 的初始化建议用均值为 0、标准差为
1/sqrt(embed_dim)的正态分布，避免初始梯度爆炸 - 扩容后记得同步更新模型输入层的
vocabulary_size元信息（如用于 serving 的 signature）
最容易被忽略的是时间戳对齐：新数据到达时间、模型 checkpoint 写入时间、回放缓冲区采样时间，三者若不同步（比如用 UTC 时间写 checkpoint，却用本地时区读 buffer），会导致样本混序，概念漂移检测完全失效。线上建议统一用 Unix timestamp + 毫秒级精度打标。
