XGBoost中解决二分类样本不平衡，核心是设scale_pos_weight=neg_count/pos_count（需按每fold真实分布动态计算），配合eval_metric='aucpr'等鲁棒指标，避免反算、全局固定或与sample_weight滥用叠加。
用 scale_pos_weight 快速平衡二分类样本权重
XGBoost 本身不自动处理类别不平衡，但对二分类问题，scale_pos_weight 是最直接有效的调节参数。它的值等于负样本数除以正样本数（即 len(y[y==0]) / len(y[y==1])），让模型在计算梯度时给少数类更高权重。
常见错误是反着算（比如用正/负），导致模型更偏向多数类；或者在交叉验证中每次 fold 都用全局比例，而没按当前 fold 的真实分布重算。
- 训练前先统计：
pos_count = sum(y)，neg_count = len(y) - pos_count，然后设scale_pos_weight=neg_count / max(pos_count, 1) - 如果用
sklearn接口（如XGBClassifier），该参数名不变，直接传入即可 - 注意：这个参数只对
binary:logistic目标函数生效，multi:softprob或回归任务不支持
配合 sample_weight 实现细粒度控制
当需要按样本级别指定重要性（比如某些正样本特别关键，或某批负样本噪声大），sample_weight 比 scale_pos_weight 更灵活。它接受一个和 y 等长的数组，XGBoost 在构建每棵树的分裂增益时会加权计算。
容易踩的坑是把 sample_weight 和 scale_pos_weight 同时滥用——两者叠加可能导致梯度爆炸或收敛异常；另外，如果用在 fit() 里传了 sample_weight，但后续 predict_proba() 时没保持一致预处理逻辑，概率校准会偏移。
立即学习“Python免费学习笔记（深入）”；
安全 Python 代码沙箱：在隔离的沙箱中执行任意 Python 代码，预装 requests、NumPy、pandas 库。返回 stdout、stderr。
- 推荐做法：先用
scale_pos_weight做粗调，再用sample_weight对特定样本微调 - 生成方式示例：
sample_weight = np.where(y == 1, 5.0, 1.0)表示所有正样本权重为 5，其余为 1 - 必须确保训练、验证、测试集的
sample_weight构造逻辑一致，尤其验证集不能漏传
避免盲目上采样（SMOTE）导致过拟合
有人习惯先用 SMOTE 过采样正样本再喂给 XGBoost，但这常引发两个问题：一是 SMOTE 生成的合成样本边界模糊，XGBoost 容易学出过于复杂的分界；二是树模型本身对噪声敏感，人工扩增的样本可能放大噪声影响。
实测中，在高维稀疏特征或小样本场景下，SMOTE + XGBoost 的 AUC 反而比只用 scale_pos_weight 低 2–5 个百分点。
- 如果坚持用上采样，请限制 SMOTE 的
k_neighbors（建议 ≤ 3），并仅对训练集操作，验证/测试集绝对不参与 - 更稳妥的替代方案：用
class_weight='balanced'（sklearn 封装版支持）或直接调整scale_pos_weight - 务必对比验证集上的
f1-score和precision-recall curve，别只盯准确率
评估阶段别只看 accuracy，重点监控 eval_metric 设置
XGBoost 默认优化 error（分类错误率），但在不平衡数据上这指标几乎无意义。必须显式设置 eval_metric 为更有区分度的指标，否则 early stopping 可能停得太早或太晚。
另一个典型问题是：设置了 eval_metric='auc'，但验证集里正样本极少（比如 'logloss' 却没开启 predict_proba 输出，导致无法做阈值调优。
- 推荐组合：
eval_metric=['auc', 'logloss']，同时监控二者变化趋势 - 对严重不平衡（正样本 'aucpr'（PR AUC），它对正样本更敏感
- early stopping 的
patience建议 ≥ 50，因为加权训练收敛更慢，且 loss 曲线震荡更明显
实际项目中最容易被忽略的是：验证集的 scale_pos_weight 不该复用训练集的值，而应按验证集自身正负样本比重新计算——虽然 XGBoost 不强制要求，但若验证集分布和训练集差异大（比如线上数据漂移），这一步直接影响 early stopping 的可靠性。
