最常遇到的是 RuntimeError: Expected all tensors to be on the same device；核心是显式指定 device 并统一用 .to(device) 迁移模型和数据，避免混用 .cuda()/.cpu()，注意 loss 中常量的 device 对齐。
PyTorch张量device不匹配的典型报错长什么样
最常遇到的是 RuntimeError: Expected all tensors to be on the same device，比如你在 GPU 上跑模型，但输入数据还在 CPU 上；或者反过来，模型在 CPU，input 却被 .cuda() 了。这种错误不是运行时才暴露——往往一执行 model(input) 就崩，根本进不了前向逻辑。
如何统一模型和数据的 device
核心原则：**显式指定、集中管理、避免混用 .to(device) 和 .cuda()**。推荐做法是：
- 用
device = torch.device("cuda" if torch.cuda.is_available() else "cpu") - 模型初始化后立刻调用
model.to(device)，不要只写model.cuda() - 每个 batch 的
data和target都要过一遍.to(device, non_blocking=True)（non_blocking=True在 dataloader 开启pin_memory=True时才生效，能提速） - 别在模型内部硬编码
.cuda()，比如自定义nn.Module里写self.register_buffer("mask", torch.ones(...).cuda())—— 改成self.register_buffer("mask", torch.ones(...))，然后靠外部.to(device)统一搬运
为什么 .to(device) 比 .cuda()/.cpu() 更安全
.cuda() 是硬切换，如果当前没 GPU，直接报错；.cpu() 同理。而 .to(device) 是声明式迁移，它会检查目标 device 类型，并自动处理 tensor 类型兼容性（比如 float64 张量不能直接 .to("cuda")，会提示更明确的 RuntimeError: Tensor does not have a dtype of float or complex）。更重要的是：.to() 对已位于目标 device 的 tensor 是空操作，不会重复拷贝，而 .cuda() 即使已在 GPU 上也会触发一次无意义的 copy，影响性能。
让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac，无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启：辅助功能 + 屏幕录制权限
验证 device 是否真一致的小技巧
别只信日志或 print，动手查：
立即学习“Python免费学习笔记（深入）”；
- 打印
model.device（需确保 model 有该属性，否则用next(model.parameters()).device） - 在训练循环里加断言：
assert input.device == model.device == target.device - 注意
torch.no_grad()块内也得保持 device 一致，不然 eval 时照样崩 - 使用
torch.compile()或FSDP时，device 对齐规则更严格，建议先关掉高级特性，确认基础 device 正确后再开启
最容易被忽略的是：loss 计算中隐含的常量（比如 0.5 * (x - y) ** 2 里的 0.5）默认是 CPU float，跟 GPU tensor 运算会触发隐式 device 转换失败。务必写成 torch.tensor(0.5, device=x.device) 或直接用 x.new_tensor(0.5)。
