tf.profiler.v2 默认不显示参数量和FLOPs，因其仅做运行时trace，不分析静态计算图；需用tf.profiler.experimental.flops配合ConcreteFunction在固定shape下静态估算。
tf.profiler.v2 为什么默认不显示模型参数量和 FLOPs？
因为 tf.profiler.v2 默认只做运行时 trace，记录实际执行的 op 调用、耗时、内存分配，不主动推导静态计算图的理论复杂度。参数量（#params）和浮点运算量（FLOPs）需要在图构建阶段分析结构，而 v2 profiler 启动时模型可能已进入 eager 模式或已完成图优化，原始层信息被抹平。
- 必须显式启用
options=tf.profiler.experimental.ProfilerOptions(host_tracer_level=3, device_tracer_level=1)才能捕获足够细粒度的 op 层级信息 - 若用
tf.function包裹前向函数，需确保 profiler 在tf.function编译后首次调用时启动，否则 trace 为空 - eager 模式下直接调用
model(x)也能 profile，但部分 shape-dependent 的 FLOPs（如 conv 的 kernel size 推导）可能因动态 shape 失准
怎么用 tf.profiler 计算单次前向的理论 FLOPs？
靠 tf.profiler.experimental.flops —— 它不是 profiler 的子模块，而是独立的静态分析工具，专为估算设计，且只支持 TF 2.9+。它不跑实际计算，只解析 ConcreteFunction 的 graph_def。
- 先获取模型前向的 concrete function：
cf = tf.function(model.__call__).get_concrete_function(input_spec)，其中input_spec必须是确定 shape 的tf.TensorSpec（如tf.TensorSpec([1,224,224,3])），否则 FLOPs 无法推导 - 再调用：
flops = tf.profiler.experimental.flops(cf, ignore_redundant=True)，返回的是总 FLOPs 数（标量 int） -
ignore_redundant=True会跳过 batch norm 的 reduce_mean/reduce_var 等统计类 op，更贴近推理实际开销；设为False则包含训练专用 ops - 注意：它不区分 MAC（乘加）和 pure FLOP，统一按加法+乘法计数，与 PyTorch 的
thop对齐方式一致
profiler 输出的“self-time”和“cumulative-time”哪个更能反映瓶颈？
看场景。在 tf.profiler.trace 生成的 Chrome Trace（.json）里，“self-time”指该 op 自身计算耗时（不含子 op），而“cumulative-time”是它及所有后代 op 的总耗时。对算子级归因，优先盯 self-time；但若某 op（如 Conv2D）调用了大量底层 cuBLAS kernel，则它的 self-time 可能虚高，真实瓶颈其实在子 kernel 上 —— 这时得展开看 device trace 中的 cublasGemmBatched 或 cudnnConvForward 行。
- GPU 上常见陷阱：顶层
Conv2D显示耗时 5ms，但点开 device trace 发现 4.8ms 都花在cudnnConvForward，说明是卷积本身重，不是调度开销 - CPU 上
self-time更可信，因 kernel 调度开销小；GPU 上务必切到 device view 查子 kernel - 如果某个
tf.nn.softmax的self-time异常高（比如 >10ms），大概率是输入 shape 错误导致降级到 CPU fallback，要检查是否混用了tf.float16和tf.float32张量
为什么 profiler 报 “No trace data was collected”？
最常见原因是 profiler 启动时机不对，或者 eager mode 下没正确绑定 trace 范围。v2 profiler 不是全局钩子，它只捕获在 tf.profiler.experimental.start() 和 stop() 之间发生的 op 执行。
- 不能写成：
tf.profiler.experimental.start(...); model(x); tf.profiler.experimental.stop()—— eager 模式下model(x)是 Python 函数调用，不会触发 trace - 正确做法：把前向逻辑包进
tf.function，再在函数内 start/stop，或直接用 context manager：with tf.profiler.experimental.Trace('train_step', step_num=0, profiler_options=options): y = model(x, training=False) - 使用 Keras
fit()时，必须通过tf.keras.callbacks.TensorBoard(profile_batch=1)启动 profiler，手动 start/stop 无效 - Windows + WSL2 组合下，偶尔因 tmp 目录权限问题写失败，错误信息是
"Failed to open file: /tmp/profiler..."，可改用绝对路径指定logdir
参数量和 FLOPs 这类静态指标，必须在模型固定 shape 后立刻算；一旦进入训练循环，trace 数据就只反映动态行为，没法反推理论复杂度。
