必须确保NVIDIA驱动版本与CUDA、推理框架严格兼容：驱动过低导致vLLM报错“CUDA driver version is insufficient”，过高或架构不匹配则GPU显示为“Microsoft 基本显示适配器”；需通过设备管理器确认完整型号，官网下载对应驱动（如RTX 4090选GeForce RTX 40 Series），执行清洁安装，并用nvidia-smi和PyTorch验证CUDA可用性及GPU识别。
要在Windows系统上让NVIDIA显卡真正驱动AI大模型推理，必须确保驱动不仅装上了，还与后续CUDA、推理框架形成闭环——驱动版本太低会直接导致vLLM报错“CUDA driver version is insufficient”，太高又可能不兼容旧版cuDNN；装错架构（比如给RTX 3090装了仅支持Turing的驱动）会让GPU在任务管理器里显示为“Microsoft 基本显示适配器”。
确认显卡型号与驱动兼容性
右键“此电脑”→“管理”→“设备管理器”→展开“显示适配器”，记下显卡完整型号（例如“NVIDIA GeForce RTX 3090”或“RTX 4090”）。【不要只看后缀数字，RTX 2060 SUPER和RTX 2060非SUPER的驱动包不同】
打开NVIDIA官网驱动下载页（https://www.nvidia.com/Download/index.aspx），手动选择：产品类型选“GeForce”，产品系列选对应代际（如“GeForce RTX 30 Series”），产品名严格匹配你看到的型号，操作系统选“Windows 11/10 64-bit”。
重点看“推荐”标签右侧的版本号——2026年10月最新稳定版是582.05（支持CUDA 13.3运行时），但如果你准备跑llama.cpp量化模型，用575.60也完全够用；若要部署Qwen3.6-27B+vLLM，必须≥580.00。
干净安装驱动（关键步骤）
下载好驱动安装包后，先关闭所有AI相关进程：任务管理器中结束“python.exe”、“ollama.exe”、“vllm_worker.exe”等。
双击安装程序 → 勾选“执行清洁安装” → 点击“下一步”→ 等待自动卸载旧驱动+重启+重装新驱动。这一步不能跳过，残留的旧驱动模块（尤其是nvlddmkm.sys）会导致WSL2 GPU直通失败，nvidia-smi在Linux子系统里返回“No devices were found”。
重启进入桌面后，按Win+R输入“cmd”，回车后执行：
nvidia-smi
师生共创生态系统对接指南。当用户需要对接大学政策、平台资源、投资机构、产业伙伴等外部资源支持时使用。触发词：师生共创生态、大学支持、平台赋能、投资对接、产业合作、政策支持、清华x-lab、孵化器、创业资源
若看到GPU名称、温度、显存使用率和CUDA Version（如“CUDA Version: 13.3”），说明驱动就位。如果只显示“N/A”或报错“Failed to initialize NVML”，说明驱动未生效，需检查是否误勾了“静默安装”或被杀毒软件拦截。
验证GPU能否被AI框架识别
方法一：在CMD中直接测试PyTorch可见性
先确保已安装Python 3.9~3.11，然后运行：
python -c "import torch; print(torch.cuda.is_available(), torch.cuda.device_count(), torch.cuda.get_device_name(0) if torch.cuda.is_available() else 'None')"
预期输出类似：
True 1 'NVIDIA GeForce RTX 3090'
方法二：针对WSL2用户（club-3090等方案必需）
启动Ubuntu终端，执行：
nvidia-smi -L
必须返回GPU设备列表，如“GPU 0: NVIDIA GeForce RTX 3090 (UUID: GPU-xxxx)”。如果报错“NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver”，说明WSL2未继承Windows驱动——此时回到Windows侧，用PowerShell执行：
wsl --shutdown && wsl
方法三：快速排查CUDA工具链（Ollama/ComfyUI等依赖）
在CMD中运行：
nvcc --version
若提示“不是内部或外部命令”，说明CUDA Toolkit未安装，但注意：驱动自带CUDA运行时（runtime），不等于安装了完整开发套件（Toolkit）。AI模型推理通常只需runtime，无需nvcc；只有自己编译llama.cpp或修改vLLM源码才需要Toolkit。
