要在本地启用AI任务的GPU加速，须依次完成五步：一、确认NVIDIA GPU计算能力≥3.5；二、安装匹配的NVIDIA驱动并用nvidia-smi验证；三、安装兼容CUDA Toolkit并配置PATH；四、安装版本严格对应的cuDNN并校验头文件；五、安装带CUDA标识的PyTorch并运行torch.cuda.is_available()验证。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您希望在本地计算机上启用人工智能计算任务的GPU加速功能，则必须正确配置CUDA驱动与相关开发环境。以下是完成此配置的具体步骤：
一、验证GPU硬件兼容性
NVIDIA GPU是运行CUDA的前提条件，需确认显卡型号属于CUDA支持列表，并具备计算能力3.5及以上版本。不满足该条件的设备无法安装对应CUDA Toolkit。
1、按下 Win + R 键，输入 dxdiag 并回车，查看“显示”选项卡中的显卡型号。
2、访问NVIDIA官方CUDA GPUs页面，核对显卡是否列于支持型号中。
3、记录显卡的计算能力数值（如GTX 1060为6.1，RTX 3080为8.6）。
二、安装匹配版本的NVIDIA显卡驱动
CUDA Toolkit依赖特定版本范围内的NVIDIA驱动，驱动过旧或过新均可能导致CUDA初始化失败。必须先安装驱动，再安装CUDA Toolkit。
1、前往NVIDIA官网驱动下载页面，选择与您的GPU型号、操作系统完全匹配的最新Studio或Game Ready驱动。
2、下载完成后，断开网络连接，以管理员身份运行安装程序。
3、在安装类型中选择 自定义安装，勾选 执行清洁安装，取消勾选GeForce Experience等非必要组件。
4、重启系统后，在命令提示符中输入 nvidia-smi，确认驱动版本和GPU状态正常显示。
三、安装对应版本的CUDA Toolkit
CUDA Toolkit包含编译器、库和运行时，其版本必须与已安装的NVIDIA驱动兼容。不同CUDA版本支持的最低驱动版本可在NVIDIA文档中查得。
1、访问CUDA Toolkit归档页面，根据已安装的驱动版本反向查找可支持的最高CUDA版本（例如驱动版本535.129.03支持CUDA 12.2及以下）。
2、下载对应版本的 exe（local）网络安装包，避免使用网络安装版（network installer），因其可能因网络中断导致不完整安装。
3、运行安装程序，取消勾选NVIDIA GeForce Experience和Visual Studio Integration（若未安装VS则必须取消）。
4、在安装路径中确保勾选 CUDA Toolkit 和 CUDA Samples，其余可选组件按需保留。
5、安装完成后，将 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\vX.X\bin 添加至系统环境变量PATH中。
四、安装cuDNN加速库
cuDNN是深度学习框架调用GPU的核心加速库，必须与CUDA Toolkit主版本号严格一致（如CUDA 12.2需搭配cuDNN 8.9.x），否则PyTorch或TensorFlow将无法识别GPU。
1、注册并登录NVIDIA Developer网站，进入cuDNN下载页面。
2、选择与已安装CUDA版本完全匹配的cuDNN版本（注意区分Windows x86_64与Linux版本）。
3、解压下载的zip文件，将 bin、include、lib 三个文件夹内容复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\vX.X\ 对应目录下，覆盖提示一律确认。
4、验证是否成功：在命令行中运行 nvcc -V 查看CUDA编译器版本，再检查 %CUDA_PATH%\include\cudnn.h 是否存在且头文件中宏定义版本号与下载版本一致。
五、验证CUDA与深度学习框架集成
仅安装底层工具链不足以保证AI框架可用，需通过Python环境调用GPU接口完成端到端验证，排除路径、权限或版本错配问题。
1、使用conda或pip安装支持CUDA的PyTorch发行版，命令中必须包含 cu121 或 cu122 等标识（如pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121）。
2、启动Python交互环境，依次执行：import torch、print(torch.cuda.is_available())、print(torch.cuda.device_count())。
3、若返回 True 且设备数量大于0，则说明CUDA驱动、Toolkit、cuDNN与PyTorch四者协同工作正常。
