Boruta的Rejected特征不能直接删除，因其判定依赖单次随机森林重要性排序和二项检验，在小样本、类别不平衡或强共线性下结果不稳定，仅为随机种子偶然结论，非统计可靠无用特征。
Boruta 不是“一键筛选关键特征”的工具，它筛选的是统计意义上“所有相关特征”，不是模型表现最优的子集；直接拿它当生产环境的特征淘汰开关，大概率误删。
为什么 boruta.fit() 返回的 Rejected 特征不能直接删除
Boruta 的 Rejected 判定依赖单次随机森林重要性排序 + 二项检验，但：
- 小样本（feature_importances_ 波动剧烈，一次运行结果不可靠
- Rejected 只表示“当前迭代中未显著优于影子特征”，不等于“对下游模型无贡献”——比如它可能和另一个特征交互后才显效
- 默认 perc=100 用影子特征最大重要性作阈值，过于严格，容易把边缘但真实相关的特征踢掉
- 没固定 random_state 或没做多轮重跑，结果随种子变化，线上部署无法复现
必须改的三个参数：max_iter、perc、random_state
不调参就跑 BorutaPy，等于把判断权交给噪声：
- max_iter：默认 100 容易在噪声主导数据上无限循环，生产建议设为 50，避免卡死
- perc：默认 100 过于苛刻，改成 90，用影子特征 90% 分位数作阈值，降低误拒率
- random_state：绝不能写死 42，必须从配置中心读取动态 seed，确保多实例输出一致
- 顺手加 verbose=0，否则日志量随特征数爆炸，CI/CD 流水线易超时
真正能落地的流程：稳定性验证 + 业务兜底
别只跑一遍 fit()，按以下步骤走：
- 固定 5 个不同 random_state，每轮重新拟合底层 RandomForestClassifier，记录每个特征被标记为 Accepted 的次数
- 设阈值 ≥4/5 才保留，Accepted 次数为 2 或 3 的特征进“灰区”，不删，转用 shap.summary_plot() 或单变量 KS 检验看实际区分能力
- 必须在和线上同分布的验证集上，对比“全特征 vs Boruta 筛选后”模型的 AUC 和 feature_importance 排序偏移量
- 对 ID 类、时间类、业务强规则特征（如“用户注册天数”），跳过 Boruta，按业务逻辑下线
比 Boruta 更稳的前置过滤手段
与其硬扛 Boruta 的计算开销和不稳定性，不如先做低成本硬过滤：
- 剔除方差 或缺失率 <code>> 0.95 的列
- 删除所有取值唯一（nunique == 1）的特征
- 用 PermutationImportance（基于最终线上模型，不是 RF）测扰动后 val_loss 增量，设绝对阈值（如 Δloss VIF > 10 筛出，人工按业务含义留一个
最难的从来不是跑通 boruta.fit()，而是证明某个特征“长期无价值”——这需要监控线上该特征的 PSI、IV、以及模型对其梯度贡献均值，而不是依赖某次 Boruta 的 Rejected 标签。
