SVM在小数据集上比MLPClassifier更鲁棒，因其最大间隔原则和仅依赖支持向量的机制可有效抑制过拟合；而MLP默认结构参数量大，在监督信号不足时易记忆噪声，导致训练集准确率虚高、测试集性能骤降。
小数据集上MLPClassifier容易过拟合
MLPClassifier默认结构（比如hidden_layer_sizes=(100,)）参数量大，而小数据集提供的监督信号少，模型会记住训练样本噪声而非泛化规律。SVM靠最大间隔原则，天然对小样本更鲁棒——它只依赖支持向量，不关心其余样本是否被“记住”。
常见错误现象：MLPClassifier在训练集上准确率接近100%，但测试集掉点严重；SVM两者差距小得多。
- 实操建议：对小数据集（
n_samples ），把<code>hidden_layer_sizes压到(10,)甚至(5,)，或直接用hidden_layer_sizes=()退化为单层感知机 - 启用早停：
early_stopping=True+validation_fraction=0.2，防止训练轮次过多 - 加正则：
alpha=0.01（L2权重衰减），比调learning_rate_init更直接有效
StandardScaler用法不当放大MLP的脆弱性
MLP对输入尺度极度敏感，但错误地在训练集和测试集上分别调用fit_transform，会导致测试数据分布偏移——SVM虽也受影响，但因其决策边界由少数支持向量决定，容错略高。
典型错误代码：scaler.fit_transform(X_train) 和 scaler.fit_transform(X_test)（两次fit）
立即学习“Python免费学习笔记（深入）”；
- 正确做法：只对训练集
fit_transform，测试集严格用transform - 更稳妥：用
Pipeline封装，避免手动调用失误：Pipeline([('scaler', StandardScaler()), ('mlp', MLPClassifier())]) - 注意：
StandardScaler对含大量零值的稀疏特征（如文本TF-IDF）效果差，此时改用MinMaxScaler可能更稳
SVM的核技巧在低维小样本中更易生效
当特征维度不高（比如2~10维）、样本量有限时，RBF核能用少量支持向量构造出平滑非线性边界；而MLP需要足够数据去调节成百上千个权重，小样本下梯度更新方向不稳定，容易陷入局部次优。
使用场景提示：若原始特征本身已具判别性（如鸢尾花的花瓣长宽比），SVM往往比MLP更快收敛且结果更可解释。
- 验证方法：用
make_classification(n_samples=100, n_features=4)生成可控数据，对比SVC(kernel='rbf')和MLPClassifier(hidden_layer_sizes=(8,))的交叉验证波动 - 参数差异：
SVC的C控制间隔软硬，MLPClassifier的alpha控制权重衰减——二者物理意义不同，不能直接类比调参 - 性能影响：小数据下
MLPClassifier训练时间常比SVC长，因要迭代优化更多参数
随机初始化让MLP每次结果不可复现
MLP权重随机初始化，小数据集上不同初值可能导致收敛到完全不同的局部极小点；SVM解是凸优化问题，只要参数固定，结果确定。
容易踩的坑：没设random_state就跑多次实验，误以为MLP“不稳定”，其实是初始化扰动。
- 必须设置：
MLPClassifier(random_state=42)，否则无法复现实验结论 - 更进一步：小数据集上可尝试多组
random_state（如[0, 42, 100]）取平均指标，再与SVM对比 - 注意：
random_state只固定权重初始化，不控制shuffle行为——训练前确保shuffle=True且同样设random_state
