scikit-learn本身不支持多GPU加速，因其设计未实现GPU设备调度、张量分发与跨卡同步机制，所有算法仅操作CPU内存中的numpy.ndarray，且无device参数指定CUDA设备，多GPU必须依赖cuml、sklearnex或PyTorch/TensorFlow等替代方案。
scikit-learn 本身不支持多 GPU 加速，这不是配置问题，而是设计决定——它压根没实现 GPU 设备调度、张量分发、跨卡同步等必要机制。
scikit-learn 的底层根本不碰 GPU 内存
scikit-learn 所有算法（如 RandomForestClassifier、LogisticRegression）默认只操作 numpy.ndarray，这些数组始终驻留在 CPU 内存中。即使你用 cupy 或 torch.cuda.FloatTensor 预先把数据搬上 GPU，调用 .fit() 时也会被自动转回 CPU（因为 scikit-learn 的输入校验逻辑会强制 np.asarray()），最终还是走 BLAS/LAPACK 的 CPU 路径。
- 没有
device参数，无法指定cuda:0或cuda:1 - 所有中间计算（比如树分裂点搜索、梯度更新）都在 Python 层或 C 扩展中串行执行，不调用 CUDA kernel
-
n_jobs只控制 CPU 进程数，对 GPU 设备数量完全无感知
多 GPU 加速必须依赖替代方案，而非 patch scikit-learn
想用多 GPU，只能切换到真正支持设备抽象的生态：
-
cuml（RAPIDS）：支持cuda:0、cuda:1等显式设备指定，但要求输入是cudf.DataFrame或cupy.ndarray；多卡需配合dask-cuda手动分片，cuml自身不提供自动多卡训练接口 -
sklearnex（Intel）：支持target_offload="gpu:0"，但仅限 Intel Arc GPU，且当前版本（2026 Q2）不支持跨多块 Intel GPU 分布式 offload -
PyTorch/TensorFlow：若模型可重写为神经网络（如用MLPClassifier替代SVC），才能通过nn.DataParallel或tf.distribute.MirroredStrategy实现多卡训练
直接在 scikit-learn 上硬加 CUDA 支持，会导致：
立即学习“Python免费学习笔记（深入）”；
-
AttributeError: 'numpy.ndarray' object has no attribute 'cuda'类错误反复出现 - 即使绕过输入检查，内部 C 函数仍会 segfault（因未链接
cudart或未初始化 CUDA context） -
GridSearchCV等元估计器依然运行在 CPU 上，GPU 只在单次fit()内部生效，无法并行评估多个参数组合
最容易被忽略的断裂点：预处理和评估链仍在 CPU 上
哪怕你成功让 cuml.RandomForestClassifier 在双卡上跑起来：
-
cuml.preprocessing.StandardScaler默认with_mean=False，而sklearn.preprocessing.StandardScaler默认True，结果偏差可能直接毁掉模型 -
cross_val_score仍调用 CPU 版本的train_test_split和score方法，GPU 数据必须先.get()拷回 CPU 才能算指标 -
joblib.Parallel的 backend 不识别 GPU 设备，n_jobs对 GPU 计算无意义
真正要跑通多 GPU 流程，得从数据加载（cudf.read_csv）、缺失值填充（cuml.Imputer）、交叉验证（自定义 Dask + cuml 分片逻辑）到预测后处理全部重写，不能只换一个 estimator。
