LogisticRegression默认无正则化，易过拟合；必须显式设置penalty（如'l1'或'l2'）并匹配solver，C越小正则越强，L1适合稀疏特征筛选，L2适合共线性收缩。
LogisticRegression 默认不带正则化，直接用它跑出来的模型在小样本、高维或共线性特征下容易过拟合或系数不稳定——这不是模型“不行”，而是没告诉它该“收敛到哪”。
penalty 参数必须显式指定，否则 solver 可能自动降级
penalty='l2' 是最常用配置，但很多人漏掉关键前提：不设 penalty 时，solver='liblinear'（旧默认）会静默忽略正则化，而 'lbfgs' 或 'saga' 则直接报错或退化为无正则。
常见错误现象：
- 模型在训练集上 AUC=0.98，测试集跌到 0.72
- 特征系数绝对值过大（比如某个
income系数达 15.3），且轻微扰动数据就剧烈跳变
正确做法：
- 显式写明
penalty='l1'或penalty='l2' - 配套选对
solver：'liblinear'和'saga'支持 L1；'lbfgs'、'newton-cg'、'sag'、'saga'支持 L2 - 小数据集优先用
solver='liblinear'，大数据用solver='saga'（支持 L1+L2 混合）
C 不是“越大越好”，它是正则强度的倒数
C 控制正则项权重：C=0.01 比 C=1.0 正则更强。
容易踩的坑：
- 直接用默认
C=1.0，结果特征没被压缩，共线性问题照旧 - 在网格搜索中只扫
[0.1, 1, 10]，错过真正有效的区间（比如最优C=0.005）
实操建议：
- L1 场景（如金融风控做特征筛选）：从
C=0.001开始往大扫，观察非零系数数量是否稳定下降 - L2 场景（如医疗预测防过拟合）：用
LogisticRegressionCV自动选C，比手写GridSearchCV更稳 - 记住：降低
C会让系数整体缩小，但 L1 还会把弱相关特征系数压成 0，L2 不会
L1 与 L2 的实际效果差异，得看数据结构
L1 不是“更高级的正则”，它和 L2 解决的是不同问题：
立即学习“Python免费学习笔记（深入）”；
- L1：适合稀疏特征场景，比如用户行为日志里 95% 的点击特征为 0，你希望模型只保留最关键的 5~10 个特征做解释
- L2：适合多重共线性明显的情况，比如
monthly_income和annual_income高度相关，L2 会让它们系数都变小但保留两者，L1 可能只留一个
性能影响：
- L1 训练比 L2 慢（尤其
liblinear求解器），且solver='saga'对稀疏矩阵加速明显 - L1 的系数路径不连续，
C微调可能导致某特征系数突然归零；L2 的系数随C平滑衰减
示例对比：
# L1：强制稀疏 model_l1 = LogisticRegression(penalty='l1', solver='liblinear', C=0.01) model_l1.fit(X, y) print(np.count_nonzero(model_l1.coef_[0])) # 输出：7（共20个特征） <h1>L2：平滑收缩</h1><p>model_l2 = LogisticRegression(penalty='l2', solver='lbfgs', C=0.01) model_l2.fit(X, y) print(np.max(np.abs(model<em>l2.coef</em>[0]))) # 输出：0.82（而非 L1 的 3.1）</p>
真正难的是判断该用 L1 还是 L2 —— 它不取决于“哪个更先进”，而取决于你手上的数据有没有天然稀疏性、业务是否要求可解释的特征子集、以及部署环境是否允许丢弃部分输入字段。别让参数调优掩盖了对数据结构本身的观察。
