词嵌入是将词语映射为低维稠密向量以捕捉语义关系的技术；Word2Vec基于局部上下文预测，GloVe利用全局共现矩阵分解，FastText引入子词n-gram处理未登录词。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
词嵌入（Word Embedding）是把词语变成数字向量的技术，让计算机能“读懂”词和词之间的关系。它不是简单给每个词编号，而是用一串实数（比如[-0.82, 1.34, 0.07, …]）来代表一个词，这些数字背后藏着语义信息——意思越接近的词，它们的向量在空间里就越靠近。
为什么不能直接用文字？
计算机只能处理数字，无法直接运算“苹果”“香蕉”这样的字符串。早期做法是独热编码（One-Hot），比如词汇表第5个词是“猫”，就表示成[0,0,0,0,1,0,…]。但这种方式有严重问题：
- 向量极稀疏、维度爆炸（万级词汇=万维向量）
- 所有词之间距离完全相等，无法体现“猫”和“狗”比“猫”和“汽车”更相关
- 模型学不到任何语义规律，纯靠统计匹配
词向量怎么做到“懂意思”？
词嵌入通过大量文本自动学习：模型反复观察一个词总和哪些词一起出现，逐渐调整每个词的向量，使得上下文相似的词向量也相似。典型表现有：
- 语义相近 → 向量余弦相似度高（如“医生”和“护士”）
- 语法角色一致 → 向量方向趋同（如“跑”“跳”“游”都指向动作类）
- 可做类比运算：“国王” − “男人” + “女人” ≈ “王后”
常见词嵌入方法有哪些？
不同模型实现思路不同，但目标一致：生成高质量、低维（通常50–300维）、稠密的词向量。
- Word2Vec：Google 2013年提出，含CBOW（用上下文猜中心词）和Skip-gram（用中心词猜上下文）两种训练方式，速度快、效果稳，适合通用场景
- GloVe：斯坦福提出，先统计全局词共现频次，再用矩阵分解压缩，更强调词对的整体统计关系
- FastText：Facebook开发，把词拆成字符n-gram（如“apple”→“app”,“ppl”,“ple”），能更好处理未登录词和拼写变体
- ELMo / BERT等上下文感知模型：不再给每个词固定向量，而是根据所在句子动态生成（如“苹果”在“吃苹果”和“苹果公司”中向量不同）
实际使用时要注意什么？
新手上手常踩几个坑：
- 别直接拿预训练向量当万能解——领域差异大时（如医疗、法律文本），最好用本领域语料微调或重训
- 向量维度不是越高越好，100–200维通常平衡效果与效率；超过300维提升有限，反而增加计算负担
- 停用词（“的”“了”“and”“the”）是否过滤，要结合任务判断：做情感分析可能需要保留语气词，做关键词提取则建议过滤
- 中文需先分词（如用jieba），否则“人工智能”被切开就丢了整体语义
