讲师中心 微信公众号
AI工具推荐 视频效率加速

如何通过数组实现简单的词频向量模型并实战计算变量文本相似度

冬伟小哥_4403

冬伟小哥_4403

发布时间:2026-05-14 21:16:19

|

289人浏览过

|

来源于php中文网

原创

词频向量模型可用纯数组实现:先分词清洗、构建索引词表,再统计词频生成固定维向量,最后用余弦相似度计算文本相似性,全程不依赖sklearn,适合理解原理或轻量部署。

如何通过数组实现简单的词频向量模型并实战计算变量文本相似度

直接用数组实现词频向量模型,核心是手动构建词汇表、统计词频、生成固定长度的向量,再用余弦相似度比较文本。它不依赖 sklearn,适合理解底层逻辑或轻量部署。

准备分词与清洗文本

中文需先分词(如用 jieba),英文可按空格或正则切分;同时建议统一小写、去除标点和停用词(如“的”“是”“a”“the”)。

  • 对每条文本调用 list(jieba.cut(text)) 得到词序列
  • 过滤掉长度 ≤1 的词、纯空格/标点、常见停用词(可自建列表)
  • 保留有意义的实词,如名词、动词、形容词

构建全局词汇表并映射索引

遍历全部文本的分词结果,统计所有不重复词,按字母或频次排序后赋予唯一整数索引(从 0 开始),形成词→下标的字典。

  • 用 dict 存储:例如 {'电影': 0, '喜欢': 1, '今天': 2, '天气': 3, ...}
  • 词汇表大小即向量维度;建议限制最大词数(如前 5000 个高频词),避免维度过高
  • 未登录词(OOV)可统一忽略,或设为特殊索引(如 -1)并在向量化时跳过

用数组生成词频向量

对每个文本,初始化一个全零数组(长度 = 词汇表大小),遍历其分词结果,查表得索引,对应位置 +1。

  • 示例:文本“我 喜欢 看 电影”,若词表含 ['喜欢', '电影'] → 索引 [1, 0],向量为 [0,1,0,1](假设四维)
  • 注意:同一词多次出现就累加,不是布尔值(除非你做的是二值化)
  • 最终得到二维数组(n_texts × vocab_size),每行是一个文档的词频向量

计算余弦相似度完成相似度评估

两个向量 a 和 b 的余弦相似度 = (a·b) / (||a|| × ||b||),值域 [-1, 1],越接近 1 越相似。

  • 点积可用 sum(a[i] * b[i] for i in range(len(a)))
  • 模长用 sqrt(sum(x**2 for x in a))
  • 对多文本两两比较,可嵌套循环或用 NumPy 向量化加速(如 np.dot + np.linalg.norm)
  • 输出结果可排序取 Top-K 最相似对,用于查重、推荐或聚类初筛

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

相关专题

更多
C++运算符基础入门
C++运算符基础入门

本专题详细讲解了C++运算符的类型、语法与使用方法,涵盖算术运算符、关系运算符、逻辑运算符、位运算符、赋值运算符、条件运算符及其他特殊运算符,并通过代码示例解析优先级与结合性。

0

2026.10.09

PixPix官网入口合集
PixPix官网入口合集

本专题汇总了PixPix官网在线使用入口及平台功能详解,涵盖文生图、图生图、AI图片编辑、AI视频创作等核心能力,并整理了AI爆款图片复刻、商品套图、详情页生成、视频变清晰与去水印等电商专项工具的使用教程。同时收录了PixPix MCP接入Codex、Claude Code等主流Agent的操作指南,助您一站式完成AI图片与视频创作。

0

2026.10.09

FrankenPHP集成Laravel详细教程
FrankenPHP集成Laravel详细教程

本专题提供FrankenPHP集成Laravel的详细配置指南,全面解析运行原理、开发环境搭建、Caddyfile配置、Octane工作模式、数据库连接、队列任务、定时任务和生产环境优化,解决部署过程中常见的报错与兼容性问题。

60

2026.10.08

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

160

2026.09.30

LLVM RISC-V参数配置教程
LLVM RISC-V参数配置教程

本专题介绍LLVM对RISC-V基础ISA和扩展的支持方式,涵盖RV32、RV64、标准扩展、实验性扩展、厂商扩展、-menable-experimental-extensions和版本差异。

140

2026.09.30

LLVM IR中间表示入门指南
LLVM IR中间表示入门指南

本专题整理LLVM IR的核心概念,包括中间表示作用、模块结构、函数、基本块、SSA形式、类型系统和常见语法,帮助新手理解LLVM编译流程中的关键层。

100

2026.09.30

PDF转图片方法
PDF转图片方法

需要把 PDF 页面用于上传、预览、分享或图片归档时,PDF 转图片方法专题整理 JPG/PNG 格式选择、逐页导出、清晰度设置、批量下载和结果检查等流程,帮助用户稳定完成 PDF 图片化处理。

100

2026.09.30

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

120

2026.09.29

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

320

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn