直接用transformers加载预训练情感分析模型最省事，如distilbert-base-uncased-finetuned-sst-2-english，5行代码即可预测；需注意输入截断、logits转概率、padding配置、标签类型、Trainer返回格式及tokenizer鲁棒性。
直接用 transformers 加载预训练模型最省事
别从头训练 BERT，Hugging Face 的 transformers 库里已有大量微调好的情感分析模型，比如 distilbert-base-uncased-finetuned-sst-2-english（专为二分类情感优化），加载即用，5 行代码就能跑通预测。
- 安装只需：
pip install transformers torch - 模型自动下载缓存，首次运行稍慢，后续秒级加载
- 输入文本会被自动截断到 512 token，超长部分丢弃——这点容易被忽略，导致长评论误判
- 返回的是 logits，要接
torch.nn.functional.softmax才能得到概率，不是直接输出“正面/负面”字符串
自己微调时，必须重写 DataCollatorWithPadding
如果你手上有标注数据（比如 CSV 含 text 和 label 列），想微调一个更贴合业务的模型，别用默认的 collator。BERT 输入必须等长，但原始文本长度不一，pad_to_multiple_of=8 能提升 TPU/GPU 利用率，而简单设 padding=True 可能触发隐式 truncation 报错。
- 显式指定
tokenizer.pad_token_id，尤其用roberta类模型时，默认没pad_token，会报ValueError: Cannot return tensors when no tokenizer is defined -
max_length建议设为 128 或 256，过长（如 512）会显著拖慢训练且未必提升效果，尤其对短评论 - 验证集准确率突然卡在 50% 附近？大概率是标签没转成
int，Trainer默认当回归任务处理
Trainer 的 predict() 返回元组，不是字典
部署阶段常卡在这儿：调用 trainer.predict(test_dataset) 后，以为能直接取 predictions.logits，实际返回的是 (predictions, label_ids, metrics) 三元组，predictions 才是 numpy 数组。
SkillSub Pro - Python 题解与代码注释双功能技能功能概述SkillSub Pro - Python 题解与代码注释双功能技能是一项面向实际任务的技能，主要用于SkillSub Pro 是一个 Python 题解生成与代码注释的 双功能合体技能 ，专为学生、算法学习者和开发者设计；✅ 一个技能，两种用途 ：；核心要点📝 题解模式 ：输入题目/题号，自动生成完整 Python 题解（含详细注释、解题思路、复杂度分析）；💬 注释模式 ：输入 Python 代码，自动添加详细中。它将相关步骤、
- 正确写法：
preds = trainer.predict(test_dataset).predictions，再做np.argmax(preds, axis=-1) - 如果 test_dataset 没给
labels，label_ids是None，但metrics仍会尝试计算（可能报错），建议传入空占位 labels 避免干扰 - 批量预测时注意
per_device_eval_batch_size别设太大，显存溢出错误信息里不会明说“OOM”，而是报CUDA out of memory后进程 kill
部署前务必测试 tokenizer 的边界行为
线上真实文本常含 emoji、URL、乱码或空格嵌套，tokenizer 对这些处理不一致：比如 bert-base-chinese 会把 ? 当作 [UNK]，而 roberta-base 可能拆成多个字节 token；URL 若未预处理，可能被切碎导致语义丢失。
立即学习“Python免费学习笔记（深入）”；
- 测试样例至少覆盖：
" "（纯空格）、"https://t.co/xxx"、"好！！！"、"[表情]" - 用
tokenizer.convert_ids_to_tokens(tokenizer("text")["input_ids"])看实际分词结果，比只看len(tokenizer("text")["input_ids"])更可靠 - 生产环境建议加一层预处理：正则过滤控制字符、标准化空白符、截断超长 URL（保留协议头即可）
真正难的不是跑通模型，而是让 tokenizer 在各种脏数据下不崩、不静默出错、不因 padding 或 truncation 引入偏差。
