AdaBoostClassifier默认基学习器是DecisionTreeClassifier(max_depth=1)，即决策树桩，因其准确率略高于50%、支持sample_weight且计算轻量，满足AdaBoost对弱分类器的核心要求。
AdaBoostClassifier 默认基学习器为什么必须是决策树桩
因为 AdaBoostClassifier 的数学设计依赖于弱分类器的“略优于随机猜测”特性，而深度为 1 的决策树（即树桩）天然满足这一要求：它只做一次特征分裂，误差率在 0.5 附近，能稳定提供可叠加的、带方向的残差信号。如果你传入 DecisionTreeClassifier(max_depth=3) 或 SVC()，训练会成功但效果往往退化——不是报错，而是泛化变差、收敛变慢。
实操建议：
- 显式指定
base_estimator=DecisionTreeClassifier(max_depth=1)，不要依赖默认（虽然 sklearn 当前默认确实是树桩，但文档不保证长期不变） - 避免用
LogisticRegression或KNeighborsClassifier作基学习器——它们不支持样本权重（sample_weight参数），调用fit(X, y, sample_weight=...)时会直接抛出TypeError: fit() got an unexpected keyword argument 'sample_weight' - 若真想换基模型，先确认该类有
sample_weight接口，并在fit方法签名中显式声明（可查源码或运行inspect.signature(clf.fit)）
fit() 报 ValueError: sample_weight must be non-negative 是怎么回事
这是 AdaBoostClassifier 迭代过程中最常遇到的报错，根本原因不是你传了负数权重，而是某轮迭代里，sample_weight 在数值计算中下溢成了负零（-0.0）或极小负值，常见于类别极度不平衡 + 学习率（learning_rate）设得过大（如 > 2.0）+ 弱分类器犯错太多时。
解决路径：
立即学习“Python免费学习笔记（深入）”；
- 把
learning_rate从默认的1.0降到0.5或0.1，尤其当数据噪声大或基学习器错误率偏高时 - 检查标签是否严格为整数或字符串——若混入
np.nan或None，AdaBoostClassifier内部重采样时可能触发未定义行为，导致权重异常 - 启用
algorithm='SAMME.R'（而非默认的'SAMME'）：它用概率估计更新权重，对数值稳定性更友好，但要求基学习器支持predict_proba（所以仍得用树桩，不能用 SVC）
预测结果不稳定？可能是 random_state 没设对
AdaBoostClassifier 的不稳定性通常不出现在模型本身，而出现在两个隐式随机环节：一是基学习器初始化（如树桩的特征选择顺序），二是每次迭代中基于加权分布的样本重采样（即使你没开 bootstrap=True，AdaBoost 内部仍用加权抽样生成新训练集）。这两个环节都受 random_state 控制，但容易被忽略。
关键点：
-
random_state必须传给AdaBoostClassifier构造函数，而不是传给里面的base_estimator——后者会被覆盖 - 若你手动构造了
base_estimator=DecisionTreeClassifier(max_depth=1, random_state=42)，这个42无效；正确写法是AdaBoostClassifier(base_estimator=DecisionTreeClassifier(max_depth=1), random_state=42) - 验证时别只看
predict()输出，用predict_proba()看各类概率是否一致，有时硬分类结果因阈值四舍五入看起来不同，实际概率向量是稳定的
怎么判断 AdaBoost 是否过拟合了
不能只看训练集准确率飙升、测试集卡住——AdaBoost 天然倾向提升训练精度，但真正危险的信号是：测试误差在某轮迭代后开始缓慢上升，同时模型复杂度（等效树的数量）持续增加。sklearn 不提供内置早停，得自己监控。
实操做法：
- 用
estimator.n_estimators设一个较大值（如 500），配合warm_start=True，然后在循环中每训练 10 轮就用验证集评估一次score()，记录最低验证误差对应的n_estimators - 注意：
warm_start=True时，修改n_estimators只追加树，不会重训全部；但若中间改了learning_rate或base_estimator，会清空已有估计器 - 比起单纯砍树数量，更推荐用
validation_fraction（v1.4+）和n_iter_no_change配合开启内置早停，但需确保传入的是sklearn.ensemble.AdaBoostClassifier（不是旧版别名），且数据已 shuffle
真实项目里，AdaBoost 的调参重心不在树的数量，而在基学习器的“弱度”和学习率的平衡——太弱需要太多轮，太强又失去 Boosting 意义。这点比 XGBoost 或 LightGBM 更难凭直觉把握。
