BaggingRegressor通过自助采样和平均降低方差来提升弱回归器性能。它不增强单个模型，而是提高整体预测稳定性；关键在于基模型需“弱而多样”，如max_depth=1的DecisionTreeRegressor，而非线性模型。
BaggingRegressor 为什么能提升弱回归器性能？
它不靠单个模型变强，而是通过自助采样（bootstrap）和结果平均来降低方差——对过拟合敏感、不稳定但偏差小的弱回归器（比如深度受限的 DecisionTreeRegressor）特别有效。关键不是让每个基模型更准，而是让整体预测更稳。
- 每次训练用约 63.2% 的原始样本（有放回抽样），剩下约 36.8% 自动成为该轮的“袋外数据”（OOB），可用于无偏评估，无需单独划分验证集
- 默认使用
n_estimators=10，但实践中常需调到 50–200；太少起不到稳定作用，太多则收益递减且拖慢推理 - 基估计器必须支持
fit()和predict()，且不能是预训练好的模型（如已调参完毕的LinearRegression）——Bagging 需要重新拟合每个副本
如何正确配置基估计器避免无效集成？
Bagging 的效果高度依赖基模型是否“弱而多样”。用一个已充分剪枝、max_depth=1 的 DecisionTreeRegressor 比默认深度的树更合适；用 LinearRegression 做基模型几乎没提升，因为线性模型在不同子集上结果高度相似，缺乏多样性。
- 推荐基模型：
DecisionTreeRegressor(max_depth=1, splitter='random')—— 强制浅层 + 随机分割，确保每棵树差异大 - 禁用
oob_score=False（默认值），改设oob_score=True可直接拿到袋外 R²，比交叉验证更快捷 - 若基模型本身带随机性（如
RandomForestRegressor），再套一层 Bagging 通常冗余，反而增加开销
遇到 “AttributeError: ‘BaggingRegressor’ object has no attribute ‘oob_score_’” 怎么办？
这个错误只说明你没启用 OOB 评估——oob_score_ 属性仅在 oob_score=True 且成功完成拟合后才存在。不是 bug，是配置缺失。
- 确认初始化时写了
BaggingRegressor(oob_score=True, ...)，而不是只在fit()里传参 -
oob_score=True要求基估计器支持sample_weight参数（DecisionTreeRegressor支持，SVR不支持），否则会静默降级为oob_score=False - 拟合后检查是否存在：
hasattr(bagging, 'oob_score_')，返回False就说明 OOB 未生效，优先查基模型兼容性和参数拼写
BaggingRegressor 在小数据集上容易失效的两个信号
当训练样本数
立即学习“Python免费学习笔记（深入）”；
- 观察每轮 bootstrap 样本中唯一样本数占比：若持续低于 40%，说明数据太小，
n_estimators再高也没意义 - 对比
bagging.oob_score_和单棵基模型在全量数据上的 CV 分数：如果前者更低，说明集成正在损害性能，应停用或改用岭回归等正则化方法 - Bagging 对异常值敏感——某棵基树若恰好抽到多个离群点，其预测会严重偏离，虽被平均削弱，但仍可能拖累整体稳定性
max_depth 或 min_samples_split 的决策树，在 Bagging 下容易退化成多棵相似的过拟合树，失去多样性红利。 
