TensorBoard默认不采集耗时分布，必须显式启用profile插件并配置profile_batch或tf.profiler.experimental.start/stop；PyTorch需用torch.profiler导出trace.json后加载。
为什么 tensorboard --logdir 看不到训练耗时分布？
TensorBoard 默认不采集 CPU/GPU 时间开销，只记录标量、图结构和直方图。想定位性能瓶颈（比如数据加载慢、GPU 利用率低），必须显式启用 profile 插件并配置 profiler —— 这不是打开 TensorBoard 就自动有的功能。
- 训练前需在
tf.summary.trace_export或 Keras 的TensorBoard回调中设置profile_batch，例如profile_batch=(10, 15)表示对第 10～15 个 batch 做完整 profile - 若用
tf.profiler.experimental.start()手动控制，务必配对调用tf.profiler.experimental.stop()，否则日志写入失败且无报错提示 - PyTorch 用户注意：
torch.utils.tensorboard.SummaryWriter不支持原生 profiler，得用torch.profiler单独导出json，再通过tensorboard --logdir=.加载（TensorBoard 2.9+ 才识别）
如何让 tf.data pipeline 瓶颈在 Profile 页面里“亮出来”？
TensorBoard 的 Profile 标签页里，Input Pipeline Analyzer 模块专为 tf.data 设计，但前提是数据管道用了 tf.data.AUTOTUNE 且启用了 tf.summary.trace_on。
- 避免在
map()中调用纯 Python 函数（如cv2.imread），这类操作会显示为py_call并拖慢整体吞吐，应改用tf.io.decode_jpeg等原生算子 -
prefetch(tf.data.AUTOTUNE)必须放在流水线末尾，放错位置（比如在cache()前）会导致缓冲失效 - 若 Analyzer 显示 “No input pipeline found”，大概率是没在
tf.summary.trace_on()作用域内构建 dataset（常见于把 dataset 定义写在@tf.function外部）
Trace Viewer 里 GPU kernel 时间远小于 CPU wait，说明什么？
这表示 GPU 大量时间在等数据——典型的数据供给不足。Trace Viewer 中若看到 cudaMemcpyAsync 或 recv 操作频繁且耗时长，基本锁定是 host-to-device 传输或 tf.data 预取不足。
图片提示词生成器？不止如此。 马甲系统 —— 把脑海中的画面，翻译成AI能理解的专业表达。 用得越多，它越懂你：首次需要多问几句确认方向，用久了几乎一说就懂。 用得越多，它越快：缓存机制让后续对话越来越省。 RAG进化：成功案例持续入库，越跑越聪明。 输入「新手指南」查看完整功能介绍
- 检查 batch size 是否过小：小 batch 导致 kernel 启动开销占比上升，用
nvtop或nvidia-smi dmon观察 GPU util 是否长期低于 30% - 确认是否启用了
tf.config.optimizer.set_jit(True)（XLA 编译），它能合并多个小 kernel，减少 launch 延迟 - Windows 用户特别注意：默认 shared memory 机制不同，
tf.data.Dataset.prefetch效果可能打折扣，建议加num_parallel_calls=tf.data.AUTOTUNE强制多线程解码
PyTorch + TensorBoard 调 profiler 为什么总报 No trace events？
PyTorch 的 torch.profiler 和 TensorBoard 的 profile 插件使用两套日志格式。直接用 SummaryWriter.add_graph 不会生成可读的 profile 数据。
立即学习“Python免费学习笔记（深入）”；
- 必须用
torch.profiler.profile(export_chrome_trace="trace.json")导出，然后运行tensorboard --logdir=.（trace.json 放在当前目录即可，无需子目录） - Chrome Trace 文件需包含
"traceEvents"字段，如果导出为空，大概率是record_shapes=True未开启（某些版本要求显式开启才能触发完整事件收集） - 别在
with torch.no_grad():块里启动 profiler——推理模式下不记录反向传播，但训练瓶颈往往在 backward 阶段，漏掉这部分就失去分析意义
真正卡住的地方，常常藏在 tf.data 的隐式同步点、PyTorch 的 DistributedSampler shuffle 重置逻辑，或者模型里某个没被 @tf.function 包裹的动态 control flow 里。这些不会报错，但会让 Trace Viewer 显示大片空白间隙。
