permutation_importance更可信，因其通过打乱单特征并观察验证集性能下降来评估重要性，抗相关性干扰强，且需用独立验证集和n_repeats≥5确保稳健性。
直接用 feature_importances_ 属性是最常见也最容易出错的起点——它只对树模型（如 RandomForestClassifier、XGBClassifier）原生支持，线性模型或神经网络不能直接调用。
为什么 feature_importances_ 不能直接用于 LogisticRegression
线性模型靠系数大小衡量影响，但系数受特征尺度严重干扰；树模型的 feature_importances_ 基于不纯度下降或分裂增益计算，天然具备可比性。直接拿 LogisticRegression.coef_ 排序，常因未标准化导致“身高 cm”压倒“是否吸烟”这种逻辑变量。
- 必须先对连续特征做
StandardScaler（分类变量不缩放） -
coef_绝对值排序前，确认目标是二分类（多分类会输出二维数组，需按类别分别看） - 使用
selectKBest+f_classif更稳妥，尤其当存在非线性关系时
permutation_importance 为什么比内置重要性更可信
内置重要性容易高估重复/相关特征（比如同时含“年龄”和“出生年份”，两者强负相关，但都可能被赋予高分）；permutation_importance 通过打乱单列特征并观察验证集性能下降幅度来评估，本质是“该特征移除后模型损失多少”，抗干扰更强。
- 务必指定
n_repeats=5以上，避免单次打乱结果偶然性 - 传入的是训练好的模型和**独立验证集**（不是训练集），否则会严重过拟合估计
- 返回的
importances_mean是各特征在多次打乱中的平均下降值，直接排序即可
from sklearn.inspection import permutation_importance perm_imp = permutation_importance(model, X_val, y_val, n_repeats=10, random_state=42) importance_scores = perm_imp.importances_mean
用 SHAP 解释单样本预测时的变量贡献
当需要向业务方解释“为什么这个用户被判定为高风险”，feature_importances_ 和 permutation_importance 都只给全局排序，无法说明个体决策逻辑。SHAP 能给出每个样本中各特征的贡献值（可正可负），且满足可加性：所有特征 SHAP 值之和 + base_value = 模型输出。
立即学习“Python免费学习笔记（深入）”；
- 树模型优先用
TreeExplainer（快且精确），不要用通用KernelExplainer -
shap.summary_plot显示全局趋势，shap.plots.waterfall适合单样本归因 - 注意
shap_values形状：二分类返回(n_samples, n_features)，多分类则为(n_samples, n_features, n_classes)
真正难的不是排序本身，而是判断“这个排序是否反映业务因果”。比如模型发现“客户最近登录次数”重要性最高，但实际可能是“登录行为”只是高价值用户的副产品——这时候得结合领域知识做归因排查，而不是直接删掉低重要性变量。
