优先按参数语义选：连续值（如学习率）用hp.loguniform，整数用hp.quniform(q=1)，互斥类别（如优化器类型）才用hp.choice；选错会导致建模失效或生成非法值。
Hyperopt 的 hp.choice 和 hp.uniform 怎么选？
选错参数空间定义方式，贝叶斯优化会直接失效——比如把学习率写成 hp.choice(['1e-3', '1e-4'])，Hyperopt 就当它是离散类别，无法建模连续变化趋势；但若该参数本质是离散超参（如优化器类型），用 hp.uniform 反而会生成非法值。
实操建议：
- 连续参数（学习率、dropout 率、L2 正则系数）优先用
hp.loguniform（对数均匀分布），因为实际调参中这些参数常按数量级变化，例如hp.loguniform('lr', np.log(1e-5), np.log(1e-2)) - 整数型参数（隐藏层单元数、训练 epoch 数）必须用
hp.quniform，并指定q=1，否则可能返回浮点数导致模型构建失败，例如hp.quniform('hidden_dim', 64, 512, q=1) -
hp.choice仅用于真正互斥的选项，如['adam', 'sgd', 'rmsprop']，且传入的是值列表，不是字符串表达式
目标函数里为什么不能直接 return acc？
Hyperopt 要求目标函数返回字典，且必须含 'loss' 键（或 'status'），否则报错 KeyError: 'loss'。它不关心你用准确率、F1 还是负对数似然，但必须显式告诉它“这个数值越小越好”。
常见错误现象：训练完 print 出 val_acc = 0.87，但最后只写 return 0.87 → 报 TypeError: 'float' object is not subscriptable。
立即学习“Python免费学习笔记（深入）”；
正确写法：
让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac，无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启：辅助功能 + 屏幕录制权限
return {
'loss': -val_acc, # 注意：Hyperopt 最小化 loss，所以准确率要取负
'status': STATUS_OK,
'attachments': {'val_acc': val_acc} # 非必需，但方便后续分析
}注意：STATUS_OK 必须从 hyperopt.STATUS_OK 导入，不能手写字符串。
fmin 调用时 max_evals 设多少才合理？
设太小（如 10）基本搜不到好结果；设太大（如 1000）又浪费时间，尤其在深度模型上单次评估耗时数分钟时。Hyperopt 的 TPE 算法本身不保证随 eval 数线性提升，通常前 30–50 次评估能收敛到较优区域。
性能与兼容性影响：
- GPU 训练场景下，务必在目标函数开头加
torch.cuda.empty_cache()或tf.keras.backend.clear_session()，否则显存持续累积，第 20 次后大概率 OOM - 使用
algo=tpe.suggest（默认）即可，别换rand.suggest——那只是随机搜索，不是贝叶斯优化 - 想复现结果？必须固定
seed参数，例如fmin(..., seed=42)，否则每次运行采样路径不同
怎么拿到最优参数并验证？
fmin 返回的是「空间索引」，不是原始值。比如你定义了 hp.choice('opt', ['adam', 'sgd'])，返回的可能是 {'opt': 0}，得靠 space_eval 映射回真实值，否则直接喂给模型会出错。
实操步骤：
- 先调用
best = fmin(...) - 再用
from hyperopt import space_eval，然后real_best = space_eval(space, best) - 注意：如果 space 里用了嵌套结构（如条件参数），
space_eval会自动处理，但手动拼接字典极易漏掉分支 - 验证时别复用验证集——要用独立测试集跑一次 final inference，否则指标虚高
最易被忽略的一点：Hyperopt 默认不保存中间试验记录。如果训练中途断了，之前所有 eval 全丢。真要稳健，得配合 Trials 对象和磁盘持久化，但那是另一层复杂度了。
