热更新本质是替换tf.Variable值而非重载模型，需确保shape/dtype一致且用Checkpoint安全加载；避免tf.function作用域错位，禁用saved_model在线加载。
热更新本质是权重文件替换，不是模型重载
TensorFlow 本身不支持“运行中无缝切换模型结构”，但可以安全地替换 tf.Variable 的值——前提是新权重与原变量 shape、dtype 完全一致。热更新真正要做的，是绕过图重建，只更新 tf.keras.Model 或自定义模块里已存在的变量。
常见错误现象：ValueError: Cannot assign to variable dense/kernel:0 because the shapes (128, 64) and (128, 32) do not match，说明权重文件和当前模型结构不兼容，不是热更新流程问题，而是版本/配置没对齐。
- 必须用
model.trainable_variables或model.weights获取变量列表，不能靠名字硬匹配（名字可能重复或带前缀） - 推荐保存为
tf.train.Checkpoint格式（即.index+.data-*），它自带变量名与 shape 元信息，比np.savez更可靠 - 加载时用
checkpoint.restore(path).expect_partial()，避免因新增/删减变量导致报错
用 tf.train.Checkpoint 实现安全热加载
这是最轻量、最贴近 TensorFlow 原生机制的方式，不需要重新构建模型，也不依赖 SavedModel 的完整图结构。
实操建议：
立即学习“Python免费学习笔记（深入）”；
- 训练时保存：用
tf.train.Checkpoint(model=model)+manager.save()，确保路径下有checkpoint文件和.index文件 - 服务端启动时：用同一
Checkpoint对象初始化，再调用restore()加载初始权重 - 热更新触发时：直接再次调用
checkpoint.restore(new_path).assert_consumed()—— 注意这里用assert_consumed()而非expect_partial()，可提前发现变量缺失 - 务必在同一线程/同一个
tf.function外部执行 restore，否则可能被图缓存绕过
示例关键片段：
checkpoint = tf.train.Checkpoint(model=model)
checkpoint.restore('./weights/ckpt-10').assert_consumed() # 初始加载
<h1>热更新时</h1><p>checkpoint.restore('./weights/ckpt-15').assert_consumed() # 直接覆盖变量值避免踩坑：变量作用域、Eager 模式与 tf.function
热更新失败，80% 出在作用域混乱或执行上下文错位。
典型问题：
- 模型在
tf.function内构建（比如用@tf.function包裹了model(x)），而 restore 在外部调用 → 变量更新不会反映到图内，因为图已固化 - 用了
tf.keras.layers.Layer子类但没在__init__里声明所有变量，导致model.weights漏掉部分变量 - 多 worker 场景下，每个进程各自 restore，但没同步状态（TensorFlow 不自动跨进程同步变量）
- 开启了
tf.config.run_functions_eagerly(True)调试时正常，关掉后失效 —— 说明图内变量引用未刷新
解决核心：所有模型前向逻辑必须基于同一个 Python model 实例；restore 后首次调用 model(x) 应该在 eager 模式下验证输出变化，再进 tf.function。
替代方案：SavedModel + tf.saved_model.load 的局限性
有人想用 tf.saved_model.load() 加载新模型再替换，这不可行——它返回的是新对象，无法注入原推理流程，且会引发内存泄漏和图冲突。
如果真要用 SavedModel，唯一可行路径是：
- 服务启动时用
tf.saved_model.load()加载一次，获取其signatures['serving_default'] - 热更新时，仍需回到
Checkpoint方式更新原始 model 的变量，再重新导出新 SavedModel（适合离线更新） - 在线热更新场景，
tf.saved_model.load()是重载动作，不是热更新，延迟高、开销大，别混用
真正要低延迟热更新，就别碰 saved_model 加载那套流程。
复杂点在于变量一致性校验和执行上下文隔离，容易被忽略的是：没有在 restore 后显式做一次 eager inference 验证权重是否生效。
