PCA适合线性可分、近似高斯分布、量纲接近且特征强相关的数据，用于压缩维度、加速训练或可视化；在非线性结构、离群点多、混合类型特征或需分类精度提升时会失效。
直接说结论：维度灾难不是靠“选一个方法”就能解决的，而是要分清场景——你要的是可解释性、可视化、提速训练，还是提升分类精度？选错方法反而会让效果更差。
PCA 适合什么场景？什么时候会失效？
PCA 是线性无监督降维，核心目标是保留最大方差。它快、稳定、可复现，但只对线性结构敏感。
- 适合：数据近似服从高斯分布、特征间存在强线性相关、你只需要压缩维度+加速后续模型（比如
SVM或LogisticRegression） - 不适合：类别边界是非线性的（比如环形、螺旋分布），这时
PCA会把不同类压到一起，分类器准确率可能暴跌 - 关键参数：
n_components别硬设为 2 或 3；先看pca.explained_variance_ratio_，累计到 0.85～0.95 再停，否则信息损失太大 - 容易踩的坑：
fit_transform()必须在训练集上调用，测试集只能用transform()；否则数据泄露，评估结果虚高
LDA 和 PCA 的根本区别在哪？
LinearDiscriminantAnalysis 不是“带标签的 PCA”，它是有明确分类目标的投影——最大化类间距离、最小化类内距离。
- 必须有标签
y，且类别数 ≥ 2；n_components最大只能是min(n_classes - 1, n_features) - 当类别可分性差（比如三类样本严重重叠），
LDA可能比PCA更差，因为它强行拉远“类中心”，反而放大噪声 - 不适用于回归任务；也不能用于纯无监督场景（比如异常检测）
- 注意：LDA 假设各类协方差矩阵相等，如果实际差异大（比如一类很紧凑、另一类很发散），结果会偏移
t-SNE 为什么不能直接用于训练下游模型？
TSNE 是为可视化设计的，它没有稳定的 transform() 方法——每次运行结果都可能不同，新样本无法可靠映射。
立即学习“Python免费学习笔记（深入）”；
- 它不拟合全局函数，只优化当前 batch 的局部邻域关系；所以不能像
PCA那样保存模型后反复用 -
perplexity参数极敏感：太小（50）模糊局部结构；建议从 5、15、30 试起 - 内存和时间开销大：10 万样本基本卡死；生产环境慎用，仅限探索性分析或最终报告配图
- 替代方案：如果真需要非线性+可泛化的降维，考虑
UMAP（需额外装包），它支持fit()+transform()
特征选择比降维更“安全”的三个理由
当你不确定数据结构、又怕破坏原始语义时，优先试 SelectKBest 或 VarianceThreshold。
-
VarianceThreshold(threshold=0.0)能秒删全相同列（比如某字段全是True），这类列对任何模型都无意义 -
SelectKBest(score_func=chi2, k=10)在分类任务中比 PCA 更可解释——你知道留下的 10 个特征具体是什么，而不是一堆主成分向量 - 嵌入式方法如
SelectFromModel(Lasso())自动兼顾稀疏性和预测目标，但要注意alpha太大会过度剪枝，太小则无效 - 重要提醒：所有基于统计检验的方法（如
f_regression）要求特征与目标大致满足线性假设；否则评分失真，选出来的特征可能反而有害
最常被忽略的一点：降维/选择前，务必检查缺失值和异常值。PCA 对离群点极度敏感，一个极端值就能扭曲整个主成分方向；而 chi2 要求输入非负，负值会直接报错 ValueError: Input X must be non-negative。
