交叉验证本身不会导致过拟合，真正过拟合源于验证信息泄露或用CV结果调参后未留独立测试集；正确做法是用GridSearchCV封装搜索并在训练集上划分、预留未触碰的测试集、Pipeline中预处理每折重拟合，且数据非独立时需用TimeSeriesSplit等适配。
交叉验证本身不会导致过拟合——它只是评估手段；真正过拟合的，是你在交叉验证过程中**无意间泄露了验证信息**，或者**用 CV 结果反复调参却没留出独立测试集**。
cross_val_score 直接用于最终模型选择，就等于把验证集当训练集用了
很多人写完 cross_val_score 看到某个参数组合得分最高，就直接拿这个参数去 fit 全量数据，然后上线。这相当于把所有折的验证集都“看过一遍”，模型已间接适应这些数据分布。
- 正确做法：用
GridSearchCV或RandomizedSearchCV封装整个搜索过程，它会在每轮 CV 内部做 train/val 划分，外部只暴露一个“未见过”的测试接口 - 更安全的做法：先用
train_test_split留出 20% 数据作最终测试集（never touched during tuning），再在剩余 80% 上跑GridSearchCV - 常见错误：对同一组数据反复调
C、max_depth，再用cross_val_score验证——这属于“验证集污染”，CV 分数虚高
cv=3 或 cv=5 在小样本下方差大，误判“最优”参数
当样本量
- 建议：小样本优先用
StratifiedKFold(n_splits=5, shuffle=True, random_state=42)，固定随机种子减少波动 - 更稳的方式：用
cross_val_score(..., cv=RepeatedStratifiedKFold(n_splits=5, n_repeats=3))，重复多次降低方差 - 警惕现象：不同 random_state 下，
cross_val_score结果标准差 > 0.05，说明当前 CV 结果不可靠，不能单凭均值选参
pipeline 中预处理步骤没在每折内重拟合，造成数据泄漏
比如用 StandardScaler().fit(X).transform(X) 做全局标准化，再喂给 cross_val_score——这会让每折的 validation 数据看到整个 X 的均值和标准差，等同于提前知道了测试分布。
立即学习“Python免费学习笔记（深入）”；
- 必须用
Pipeline包裹预处理器和模型：Pipeline([('scaler', StandardScaler()), ('clf', LogisticRegression())]) - 这样每次 CV 折都会在 train subset 上重新
fitscaler，再用它 transform 对应的 val subset - 常见泄漏点还包括：
SimpleImputer全局 fit、OneHotEncoder全局 fit、甚至手动用pd.get_dummies后直接传入 CV ——全都不行
最常被忽略的一点是：交叉验证分数好看，不代表模型真的泛化好。它只反映“在当前数据划分方式下，模型对类似分布数据的平均表现”。如果你的数据本身存在时间依赖、空间聚类或样本非独立，那默认的 k-fold 就失效了——这时候得换 TimeSeriesSplit 或自定义 GroupKFold，否则 CV 分数再高也是假象。
