class_weight在随机森林中通过加权基尼不纯度或信息增益影响节点分裂，使模型关注少数类；常用取值有'balanced'、'balanced_subsample'和字典形式；需结合特征工程与合理评估，避免与重采样叠加导致过拟合。
class_weight 参数不是“需要”加，而是当数据类别严重不平衡、且你关心少数类识别效果时，必须考虑是否启用它。随机森林默认把每个样本当同等重要，一旦正例只占 0.5%，模型很容易学出“全预测负例”这种 accuracy 高但实际无用的策略。
python-script-generator
下载
快速生成专业的 Python 脚本和应用代码。一键创建完整项目结构，支持CLI、API、爬虫、Bot、Django等多种项目类型，包含完整的项目结构、配置文件、依赖管理、测试、README和文档。
class_weight 在 RandomForestClassifier 中怎么起作用？
- 它不改变采样过程（比如 bootstrap 还是照常放回抽），而是在每棵树的每个节点分裂时，修改基尼不纯度或信息增益的加权计算方式：样本权重被乘进公式，让少数类样本对分裂标准的影响变大。
- 这意味着：树更可能为区分少数类而切分，整体森林的决策边界会向少数类偏移。
- 注意：
class_weight只影响fit()阶段的训练逻辑，不影响predict()或predict_proba()的接口行为，但会显著改变后者的输出分布。
常见取值和适用场景
-
'balanced'：自动按公式n_samples / (n_classes * bincount(y))算权重。适合快速 baseline，但容易在极端不平衡（如 1:1000）时给过高权重，导致过拟合噪声。 -
'balanced_subsample'：每次 bootstrap 抽样后，基于该子集重新算权重。比'balanced'更激进，适合高方差、低偏差场景，但稳定性略差。 - 字典形式如
{0: 1, 1: 50}：最可控。例如正负比是 1:50，就设正类权重为 50，负类为 1。推荐从这个起步，再微调。
容易踩的坑
-
class_weight不是万能解药：如果特征根本无法区分正例（比如所有正例都混在负例密集区），再调权重也没用。 - 和重采样（如 SMOTE）一起用要谨慎：两者都在“放大少数类信号”，叠加后模型容易在人工边界上过度专注，验证集 recall 上升但 precision 断崖下跌。
- 评估时别只看
score()：它默认返回 accuracy，对不平衡数据毫无意义。必须看classification_report里正类的recall和f1-score。 - 模型保存后加载再推理，权重不参与——也就是说，训练时用了
class_weight，上线预测时无需、也不能传任何权重参数。
真正关键的点在于：权重调节的是模型“学什么”，而不是“怎么学”。如果你连正例长什么样都没搞清，或者特征工程没做干净，class_weight 再怎么调也只是在错误的方向上加速。
