自定义损失函数必须继承tf.keras.losses.Loss子类，否则在分布式训练、条件逻辑或含可训练参数时易出梯度为None或符号张量转numpy错误；需重写call方法，禁用.numpy()和np.*，状态管理用tf.Variable（trainable=False）或optimizer.iterations。
自定义损失函数必须继承 tf.keras.losses.Loss 或返回可微标量
TensorFlow 2.x 中，直接传入普通 Python 函数给 model.compile(loss=...) 是可行的，但仅限于简单场景；一旦涉及可训练参数、条件逻辑或需要在分布式训练中正确求导，就必须用子类化方式。否则容易出现 TypeError: Cannot convert a symbolic Tensor to numpy 或梯度为 None。
关键判断：如果你的损失里用了 tf.Variable、tf.cond、tf.while_loop，或者要和 tf.keras.metrics.Metric 耦合计算，那就必须写成 tf.keras.losses.Loss 子类。
- 子类中重写
call(self, y_true, y_pred)，不要碰__init__里的reduction参数——它由框架自动处理 - 避免在
call中调用.numpy()、print()或任何非图模式操作 - 所有张量运算必须用
tf.*，不能混用np.*
tf.keras.losses.Loss 子类里如何安全访问模型状态？
比如你想在损失中加入权重 L2 正则项、或根据当前 epoch 动态缩放某部分 loss，就不能只靠外部闭包变量——多 GPU 下每个 replica 会看到不同副本的变量值，导致不一致。
正确做法是把状态封装进 loss 实例内部，并用 tf.Variable + trainable=False 管理（如 epoch 计数器），或通过 model.optimizer.iterations 间接读取全局 step。
立即学习“Python免费学习笔记（深入）”；
- 若需依赖模型层输出（例如中间特征），不要在 loss 里调用
model(...)——这会破坏计算图；应改用tf.keras.Model的多输出模式，在call中一并返回辅助张量 - 想访问
model.trainable_variables？不行。loss 不该持有对 model 的引用。替代方案：在训练循环中手动组合 loss 值，或使用tf.keras.callbacks.Callback注入逻辑 - 调试时可用
tf.debugging.check_numerics包裹关键子表达式，防止 NaN 悄悄传播
字符串名、函数对象、Loss 实例三者传给 compile(loss=...) 的区别
它们看似都能跑通，但行为差异很大：
-
loss="sparse_categorical_crossentropy"：走内置路径，最快，支持 XLA 编译和 TPU 分布式优化 -
loss=lambda y_true, y_pred: tf.keras.losses.sparse_categorical_crossentropy(y_true, y_pred)：每次调用都新建计算图节点，无法复用，且无法被tf.function完全追踪（尤其含控制流时） -
loss=MyCustomLoss()（子类实例）：唯一能稳定支持@tf.function追踪、梯度检查、save_model序列化的形式；get_config()和from_config()方法建议实现，否则保存后加载会失败
一个常见错误是把带默认参数的函数（如 lambda y_true, y_pred, gamma=2.0: ...）直接传入，结果 gamma 在图构建期被固化为常量，无法随 batch 变化——此时必须用子类并在 call 中接收额外张量参数。
调试自定义 loss 时最常卡住的三个地方
不是语法错，而是语义和执行上下文错：
- 损失输出 shape 不匹配：
y_true和y_pred可能是[batch, 1]和[batch, n_classes]，而你写了tf.reduce_mean(y_true * y_pred)导致广播错误——务必用tf.shape(y_pred)[0]而非y_pred.shape[0]获取动态 batch size - 梯度未回传到某些变量：用
with tf.GradientTape() as tape:手动测试，检查tape.gradient(loss_value, model.trainable_variables)是否全非 None；常见原因是 loss 内部用了tf.stop_gradient或条件分支漏了梯度路径 - 混合精度训练下 loss 缩放失效：如果用了
tf.keras.mixed_precision.LossScaleOptimizer，你的自定义 loss 必须返回 float32 张量（即使输入是 float16），否则 loss scale 无法正确应用
真正麻烦的从来不是“怎么写”，而是“为什么这个张量没梯度”“为什么 TPU 上报错但 CPU 不报”“为什么 reload model 后 loss 行为变了”——这些都得从执行模式（eager/graph）、变量作用域、序列化边界一层层剥开。
