PyTorch 1.x与2.x benchmark需统一禁用torch.compile，用TORCHDYNAMO="disable"；GPU耗时须用torch.cuda.Event精准打点并同步；固定随机种子、禁用cudnn、显式初始化、覆盖典型batch与模型结构，每组跑50轮取中位数。
PyTorch 1.x 和 2.x 的 benchmark 脚本必须统一禁用 `torch.compile`
PyTorch 2.0+ 默认启用 torch.compile 的自动优化（尤其在训练循环中调用 model(...) 时可能隐式触发），这会让对比失真。不显式关闭，你测的不是“框架版本差异”，而是“是否开了编译器”。
实操建议：
立即学习“Python免费学习笔记（深入）”；
A Python CLI skill for Cutout.Pro visual APIs — background removal, face cutout, and photo enhancement. Supports file upload & image URL input.
下载
调用 Cutout.Pro 视觉处理 API 进行背景移除、人像抠图和照片增强，支持文件上传与图片 URL 输入。
- 在 PyTorch 2.0+ 环境下，**所有测试前加
torch._dynamo.reset()+torch.compile设为禁用状态** - 更稳妥做法：启动脚本时加环境变量
export TORCHDYNAMO="disable"，或代码开头设import os; os.environ["TORCHDYNAMO"] = "disable" - PyTorch 1.x 环境无需处理，但需确认没意外装了
torchdynamo包（它不兼容 1.x）
关键指标要分离 CPU 预处理与 GPU 计算耗时
常见错误是只测 model(input) 总耗时，结果被数据加载、to(device)、梯度清零等拖慢，掩盖真实前向/反向性能。GPU 时间受 host-device 同步干扰极大。
实操建议：
立即学习“Python免费学习笔记（深入）”；
- 用
torch.cuda.Event手动打点（比time.time()准确得多） - 典型打点位置：
start.record()放在input.to(device)之后、model(...)之前；end.record()放在loss.backward()之后 - 务必调用
start.synchronize(); end.synchronize()再计算毫秒差，否则返回的是异步时间戳 - 预热至少 3 次再开始计时，避免首次 kernel 加载抖动
确保模型、输入、随机种子完全一致
PyTorch 2.x 对某些算子（如 nn.Dropout、nn.LayerNorm）默认行为微调过，不同版本间即使同 seed 也可能输出微异——这会触发不同 CUDA kernel 路径，影响计时稳定性。
实操建议：
立即学习“Python免费学习笔记（深入）”；
- 固定全部随机源：
torch.manual_seed(42); torch.cuda.manual_seed_all(42); np.random.seed(42); random.seed(42) - 禁用非确定性算法：
torch.backends.cudnn.enabled = False（虽然慢一点，但保证可复现） - 模型初始化用
torch.nn.init.xavier_uniform_(m.weight)等显式方式，不用依赖构造函数默认行为 - 输入张量用
torch.randn(..., dtype=torch.float32, device='cuda')直接生成，避免从 CPU 复制再搬运
batch size 和模型规模要覆盖实际使用场景
小 batch（如 1–8）下 PyTorch 2.x 的 graph capture 开销可能反超收益；大 batch（如 64+）才容易看到 torch.compile 或新内存管理的优势。但如果你的业务永远跑 batch=1，那测 batch=16 就没意义。
实操建议：
立即学习“Python免费学习笔记（深入）”；
- 至少测 3 个典型 batch size：
1（推理常用）、16（中等训练）、64（吞吐压测） - 模型选你真实项目用的结构，别只测
resnet18——比如你用TransformerEncoderLayer，就单独拎出来测它的forward+backward - 每组配置跑 50 轮取中位数（非平均值），避开瞬时显存碎片或调度抖动
