RandomForestClassifier调参关键：n_estimators依数据规模选50–500；max_depth建议6–10防过拟合；min_samples_split≥5；类别不均衡必设class_weight='balanced'；oob_score=True可省验证集；predict_proba输出概率向量，用于阈值决策与软投票；feature_importances_具随机性，需多次重训取中位数评估；VotingClassifier软投票要求所有基模型支持predict_proba。
sklearn.RandomForestClassifier 怎么选参数
默认参数跑出来准确率低，不是模型不行，是没调对关键开关。n_estimators 别死守 100，小数据集 50 就够，大数据集 200–500 更稳；max_depth 不设限容易过拟合，尤其特征多、样本少时，建议从 6–10 试起；min_samples_split 设太小（比如 1 或 2）会让树学噪声，生产环境至少用 5 起步。
常见错误现象：RandomForestClassifier 在训练集上完美、测试集暴跌，八成是 max_depth=None + min_samples_split=2 组合导致的过拟合。
-
class_weight='balanced'要在类别严重不均时强制加上，否则少数类会被直接忽略 - 用
oob_score=True可以省掉单独的验证集，但注意它只对袋外样本有效，不能替代真实测试逻辑 - 如果内存吃紧，把
n_jobs设成-1前先确认机器有足够 CPU 核心，否则反而变慢
predict_proba 和 predict 的区别到底在哪
predict 输出硬分类标签（比如 'cat' 或 1），predict_proba 输出每个类的概率向量（比如 [0.1, 0.85, 0.05]）。别在需要置信度的场景（如风控阈值决策、模型融合输入）里只用 predict。
使用场景：做集成投票前要统一用 predict_proba，否则不同模型输出格式不一致，VotingClassifier 会直接报 ValueError: could not convert string to float。
立即学习“Python免费学习笔记（深入）”；
- 注意
predict_proba返回的是数组，索引对应classes_属性顺序，别靠猜 - 如果某棵树没分到某个类，对应位置概率可能是 0，不是 NaN —— 这会影响后续加权平均逻辑
- 二分类时
predict_proba返回两列，真正要用的是第二列（正类概率），别直接取[:, 0]
feature_importances_ 为什么每次运行结果不一样
因为随机森林本身带随机性：bootstrap=True（默认）、max_features 抽样、树内分裂点随机选择。即使固定了 random_state，只要没锁住所有随机源，重要性排序就可能浮动。
性能影响：单次计算 feature_importances_ 很快，但它反映的是当前这批树的平均贡献，不是理论真值。想看稳定排序，得做多次重训+聚合（比如跑 10 次，取各特征重要性的中位数）。
- 别拿单次
feature_importances_当绝对依据，尤其当两个特征分数差小于 0.01 时，基本可视为无显著差异 -
max_features='sqrt'（默认）会压制高维稀疏特征的重要性，换成'log2'或固定数值有时更合理 - 如果用了
StandardScaler预处理，特征重要性仍按原始变量名解释，和缩放无关
VotingClassifier 投票机制怎么配才不翻车
硬投票（voting='hard'）只看最终标签，软投票（voting='soft'）才用 predict_proba 加权平均。但软投票要求所有基模型都实现 predict_proba 方法 —— RandomForestClassifier 有，SVC 默认没有，必须显式加 probability=True，否则初始化就报 AttributeError: 'SVC' object has no attribute 'predict_proba'。
容易踩的坑：混用 RandomForestClassifier 和没开概率的 LogisticRegression（它其实默认支持，但有人手动关了），或者把 DecisionTreeClassifier 当软投票成员却不设 random_state，导致每次 predict_proba 输出抖动。
- 软投票下，各模型权重用
voting='soft', weights=[2,1,1]控制，不是传进estimators的顺序 - 硬投票对异常预测鲁棒性更强，软投票对校准后的概率更敏感 —— 如果你的一棵树概率输出明显偏移（比如总在 0.4–0.6 之间），它会在软投票里拉低整体置信
- 别在 VotingClassifier 里塞两个完全一样的随机森林实例，它们会高度相关，投票失去意义
特征重要性不是因果证据，投票结果不等于共识真理。真正卡住的地方，往往不是代码写错，而是没意识到随机种子、概率校准、特征尺度这些“背景噪音”正在悄悄改写输出。
