PyTorch能否用GPU取决于其绑定的CUDA运行时库是否能被正确加载，而非nvidia-smi显示的驱动支持版本；需通过torch.version.cuda、nvcc --version、/usr/local/cuda软链接及LD_LIBRARY_PATH顺序综合验证版本匹配性。
PyTorch 能否用 GPU，不取决于你装了什么 CUDA Toolkit，而取决于它“认”的那个版本是否在系统路径里可加载——而且顺序必须对。
怎么确认是不是真不匹配？别信 nvidia-smi
很多人被 nvidia-smi 右上角的 “CUDA Version: 12.4” 搞晕，以为这就是系统装的 CUDA 版本。其实那是驱动支持的最高运行时版本，和你实际安装的 cudatoolkit 完全无关。
- 查 PyTorch 自己认的 CUDA 版本：
python -c "import torch; print(torch.version.cuda)"→ 输出比如11.8 - 查系统当前
nvcc版本：nvcc --version→ 如果报 command not found，说明/usr/local/cuda/bin没进PATH - 查软链接指向：
ls -l /usr/local/cuda→ 比如指向/usr/local/cuda-11.8 - 查库加载路径优先级：
echo $LD_LIBRARY_PATH | grep cuda→ 最前面的路径决定libcudart.so.11.8能不能被找到
conda 环境里装 cudatoolkit=11.8 是个陷阱
Conda 默认会把 cudatoolkit 当作独立包装进 $CONDA_PREFIX/lib，但 PyTorch 预编译包（比如 pytorch-2.3.1-py311_cuda118_cudnn8_0）内部已经绑定了 libcudart.so.11.8，它优先从 /usr/local/cuda-11.8/lib64 加载，而不是 Conda 环境里的库。
- 执行
conda list cudatoolkit看到的版本，和torch.version.cuda完全无关 - Conda 环境激活后自动注入的
LD_LIBRARY_PATH可能把 Conda 自己的cudatoolkit放在前面，导致 PyTorch 找不到它要的.so文件 - 离线环境尤其危险：
conda install cudatoolkit=11.8很可能装错子版本（比如 11.8.0 而不是 11.8.2），造成符号缺失
真正有效的切换方式：只动软链接 + 硬编码 LD_LIBRARY_PATH
如果你本地已预装多个 CUDA（如 /usr/local/cuda-11.8 和 /usr/local/cuda-12.1），最稳的方式是绕过 Conda 的 cudatoolkit 干扰，直接控制底层路径。
立即学习“Python免费学习笔记（深入）”；
- 切软链接：
sudo rm /usr/local/cuda && sudo ln -s /usr/local/cuda-11.8 /usr/local/cuda - 确保
PATH包含nvcc：export PATH=/usr/local/cuda/bin:$PATH - 强制库路径优先级：
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH（注意/usr/local/cuda/lib64必须在最前） - 验证：
python -c "import torch; print(torch.version.cuda, torch.cuda.is_available())"→ 应输出11.8 True
pip 安装时必须选对 wheel 名里的 cuXX
Pip 安装的 PyTorch 包名自带 CUDA 版本标识，比如 torch-2.3.1+cu118-cp311-cp311-linux_x86_64.whl 中的 cu118 就是硬编码的绑定版本。装错就白忙。
- 永远从 PyTorch 官网安装页 复制命令，不要信第三方镜像站的“CUDA 支持”标注
- Conda 用户优先用：
conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c pytorch -c nvidia（它会拉取匹配子包） - Pip 用户离线部署时，提前下载对应
cu118或cu121的 wheel，绝对不要用pip install torch这种无版本限定的命令
最容易被忽略的一点：PyTorch 的 CUDA 绑定是静态链接 + 动态库查找混合模型，torch.version.cuda 是编译时写死的，但运行时能不能加载成功，全看 LD_LIBRARY_PATH 里第一个匹配的 libcudart.so.XX.Y 是否存在且 ABI 兼容——哪怕只差一个小版本号，torch.cuda.is_available() 也会静默返回 False。
