增量学习适用于数据量远超内存容量或数据持续流入（如日志、传感器流）的场景；其核心是通过partial_fit()分批更新模型参数，仅SGDClassifier、SGDRegressor、PassiveAggressiveClassifier、MiniBatchKMeans等少数模型原生支持，RandomForestClassifier和SVC等调用会报AttributeError。
增量学习适用于哪些场景？
当数据量远超内存容量，或数据持续流入（如日志、传感器流），fit() 一次性训练会失败或不可行。Scikit-learn 中只有少数模型原生支持增量学习，核心是实现 partial_fit() 方法——它允许分批喂入数据并逐步更新模型参数，不重置历史状态。
典型适用模型包括：SGDClassifier、SGDRegressor、PassiveAggressiveClassifier、MiniBatchKMeans 和部分 OneVsRestClassifier（需底层估计器支持）。别指望 RandomForestClassifier 或 SVC 有 partial_fit()——它们根本不提供该方法，强行调用会抛出 AttributeError: 'XXX' object has no attribute 'partial_fit'。
如何正确初始化和调用 partial_fit()？
与普通 fit() 不同，partial_fit() 要求首次调用时必须传入全部可能的类别标签（分类任务）或明确指定 classes 参数，否则后续批次无法对齐类别空间。这是最容易被忽略的坑。
- 分类任务：首次调用必须显式传入
classes，例如clf.partial_fit(X_batch, y_batch, classes=np.unique(y_full))；后续批次可省略classes - 回归任务：无需
classes，但要注意SGDRegressor默认损失函数是'squared_error'，若目标值范围大且未归一化，易发散 - 每次
partial_fit()都会更新模型权重，但不会自动重置学习率调度——如果你用了learning_rate='adaptive'，它只在首次partial_fit()时生效，之后不再调整
批量大小和顺序会影响结果吗？
会，而且影响不小。增量学习本质是随机优化过程，partial_fit() 每次只看一个 batch，等价于 mini-batch SGD 的单步更新。因此：
立即学习“Python免费学习笔记（深入）”；
- batch 太小（如每批 1 样本）：梯度噪声大，收敛慢，容易震荡；batch 太大（接近全量）：失去内存优势，且可能超出单次计算资源
- 推荐 batch size 在 100–10000 之间，具体取决于特征维度和内存余量；可用
len(X_batch)动态监控 - 数据顺序很重要——不能简单按文件读取顺序喂入。若原始数据存在时间相关性（如按天切分），直接顺序训练会导致模型偏向近期分布。建议在每个 batch 内部 shuffle，或使用带缓冲的流式 shuffle（如
sklearn.utils.shuffle()配合生成器） -
SGD类模型默认使用shuffle=True，但这是在每次partial_fit()内部打乱 batch 样本顺序，不是跨 batch 的全局 shuffle
如何验证增量训练没“学偏”？
没法直接用 cross_val_score()——它依赖完整数据集重采样，而你手头只有流式分块。可行做法是保留一小块独立验证集（从原始数据中预留，不参与任何 partial_fit()），在每个 batch 训练后调用 score() 或 predict() 评估其表现。
注意：验证集必须和训练数据同分布，且不能随训练过程动态更新。如果验证集也随时间漂移（比如用最近 7 天数据做验证），那测出来的 accuracy 上升可能是过拟合当前时段，而非泛化能力提升。
另一个关键点是模型状态持久化：每次 partial_fit() 后，用 joblib.dump(clf, 'model.pkl') 保存，而不是反复 fit() 新实例——后者会丢弃所有已学参数。
真正难的是冷启动阶段：前几个 batch 的预测往往极不稳定，predict_proba() 可能返回全零或 NaN，尤其当类别分布极度不均衡时。这时候别急着报警，先确保首轮 partial_fit() 的 classes 完整、样本非空、特征无全 NaN 列——这些细节漏掉一个，后面全白跑。
