讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在Python中实现PyTorch模型在M1/M2芯片Mac上的硬件加速?

落晨酱_7609

落晨酱_7609

发布时间:2026-07-01 07:46:07

|

737人浏览过

|

来源于php中文网

原创

不启用。PyTorch 2.0+ 虽支持 MPS 后端,但默认设备为 CPU;需安装 macOS 原生 wheel、确认 torch.backends.mps.is_available() 为 True,并手动将模型与数据统一移至 MPS 设备,同时规避不兼容算子与混合设备操作。

如何在python中实现pytorch模型在m1/m2芯片mac上的硬件加速?

PyTorch是否默认启用Apple Silicon的Metal加速?

不启用。PyTorch 2.0+ 虽已内置 torch.compile 和 mps 后端支持,但默认设备仍是 cpu,即使你调用 .to("mps"),也需满足多个前提条件,否则会直接报错或静默回退到 CPU。

常见错误现象:RuntimeError: Found no NVIDIA driver on your system(误以为只检查 CUDA)、AttributeError: module 'torch' has no attribute 'mps'(版本太低)、或训练速度无提升(实际仍在 CPU 运行)。

  • 必须使用 PyTorch ≥ 2.0,且通过 pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/macos 安装 macOS 原生 wheel(非通用 x86_64 版)
  • 确认安装正确:运行 torch.backends.mps.is_available() 返回 True,且 torch.device("mps") 不抛异常
  • 注意:MPS 不支持所有算子(如 torch.nn.BatchNorm3d、某些 torch.fft 变体),遇到时会自动 fallback 到 CPU,但不会报错——需用 torch.autograd.set_detect_anomaly(True) 或手动插入 .to("mps") 检查设备一致性

如何安全地将模型和数据迁移到MPS设备?

不能简单把模型 .to("mps") 就完事。MPS 对张量类型、布局、甚至随机数生成器状态都有隐式要求,稍有不慎就会触发不可恢复的崩溃或 NaN 损失。

实操建议:

立即学习“Python免费学习笔记(深入)”;

python学习
python学习

Python 编程学习助手 skill,面向零基础用户。 当用户表达以下意图时触发: - 学习 Python 基础概念(变量、数据类型、循环、函数、类等) - 请求 Python 练习题或测验 - 请求审查或调试 Python 代码 - 请求 Python 项目实战指导(爬虫、数据分析、Web 开发等入门项目) - 泛化表述如"教我 Python""我想学编程""Python 怎么写""帮我学 Python" 此 skill

下载
  • 模型、输入数据、损失函数中的所有张量必须统一设备:先创建模型,再调用 model.to("mps");所有 torch.tensor(...) 或 dataset 加载的数据都需显式 .to("mps")
  • 避免混合设备操作:例如 loss = criterion(output, target) 中 output 在 MPS、target 在 CPU,会直接 crash。可用 assert output.device == target.device 快速定位
  • 优化器必须在模型移到 MPS 后再初始化:optimizer = torch.optim.Adam(model.parameters()) 必须在 model.to("mps") 之后,否则其内部缓存仍驻留在 CPU
  • 禁用不兼容的训练技巧:torch.cuda.amp(自动混合精度)对 MPS 无效;改用 torch.autocast("mps"),且仅限 forward 阶段,backward 仍需手动处理

为什么验证集推理变慢,甚至比 CPU 还慢?

这是 MPS 最常被忽略的性能陷阱:MPS 的 kernel 启动开销高,小 batch(如 batch_size=1)或频繁切换 device(如每步都 .to("mps"))会导致大量同步等待,实际吞吐反而下降。

关键参数与调整方向:

  • batch_size 至少设为 8~16:低于此值,MPS 的调度开销 > 计算收益
  • 避免在循环内重复调用 .to("mps"):预先把 dataloader 的输出 tensor 绑定到 MPS,或用 pin_memory=True + non_blocking=True(虽对 MPS 效果有限,但可减少 host-device 拷贝阻塞)
  • 禁用梯度计算时务必用 torch.no_grad():MPS 下未关闭 grad 会额外记录计算图,显著拖慢 inference
  • 注意 DataLoader 的 num_workers:macOS 上多进程 + MPS 易引发 fork 问题,建议设为 0(主线程加载),或改用 torch.utils.data.IterableDataset 手动控制

遇到 MPS 相关 RuntimeError 怎么快速定位?

MPS 错误信息通常模糊(如 Invalid device ordinal 或直接 segmentation fault),根本原因往往不在报错行,而在上游张量的 device 或 dtype 不一致。

调试步骤:

  • 在 model.forward() 开头加 print(f"input device: {x.device}, dtype: {x.dtype}"),确认输入合规(dtype 推荐 torch.float32,MPS 对 float64 或 int64 支持极差)
  • 逐层检查:用 for name, param in model.named_parameters(): print(name, param.device) 确保无参数意外滞留 CPU
  • 临时替换为 CPU 运行一次:若 CPU 正常而 MPS 报错,基本可锁定为 MPS 不支持的算子;此时查 MPS native op 列表,或改用等效替代(如用 torch.nn.functional.interpolate 替代部分 Upsample)
  • 升级到最新 nightly 版本:pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cpu(注意选 cpu index,nightly 的 macOS MPS 支持更新更全)

MPS 的最大复杂点不是“怎么开”,而是“怎么稳”——它不像 CUDA 那样经过十年打磨,很多边界 case 仍依赖手动规避。哪怕模型能跑通,也要在每个 epoch 后检查 loss 是否 nan、device 是否意外漂移,这些细节没法靠框架自动兜底。

热门AI工具

更多
PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1791

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

4704

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1749

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

27877

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3347

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3367

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1203

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

616

2023.08.10

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn