讲师中心 微信公众号
AI工具推荐 视频效率加速

DeepSeek与LangChain结合:构建基于个人文档的问答系统

酷婷君_8990

酷婷君_8990

发布时间:2026-02-15 12:09:11

|

335人浏览过

|

来源于php中文网

原创

需完成模型接入、文档加载、向量化与检索链路协同配置:一、结构化预处理文档为Document对象并添加元数据;二、用RecursiveCharacterTextSplitter语义分块;三、以transformers或API方式接入DeepSeek模型;四、用bge-small-zh-v1.5嵌入+Chroma构建向量库;五、通过RetrievalQA组装问答链并注入上下文。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

deepseek与langchain结合:构建基于个人文档的问答系统

如果您希望利用DeepSeek大语言模型与LangChain框架,基于本地个人文档构建一个可私有化部署的问答系统,则需要完成模型接入、文档加载、向量化与检索链路的协同配置。以下是实现该系统的具体步骤:

一、准备本地文档并进行结构化预处理

该步骤旨在将非结构化文档(如PDF、TXT、Markdown等)转换为LangChain可识别的Document对象,并保留原始语义与元数据,为后续切分和嵌入提供基础。

1、将所有待检索的文档统一存放至指定文件夹,例如./docs/,支持格式包括.pdf、.txt、.md、.docx。

2、使用LangChain内置加载器按类型实例化:对于PDF使用PyPDFLoader,对于Markdown使用UnstructuredMarkdownLoader,对于纯文本使用TextLoader。

3、对每个加载后的Document对象添加source字段,值为原始文件路径;添加page字段(若适用),用于溯源定位。

二、使用文本分割器进行语义分块

避免单次输入超出模型上下文长度限制,并提升检索精度,需将长文档按语义边界切分为固定大小且重叠的文本块。

1、选用RecursiveCharacterTextSplitter,设置chunk_size=512,chunk_overlap=64。

2、调用split_documents()方法对全部Document列表执行切分,生成细粒度文本块集合。

3、过滤掉空字符串或仅含空白符的块,确保每块至少包含3个以上有效中文字符或单词。

三、配置DeepSeek模型作为LLM后端

LangChain需通过兼容接口调用DeepSeek模型,当前推荐使用transformers + pipeline方式封装,或通过OpenAI兼容API代理转发请求。

1、安装deepseek-ai官方推理库:pip install deepseek-vl 或对应版本的deepseek-coder包(依模型类型而定)。

Deepseek Reasoner Lite Agent
Deepseek Reasoner Lite Agent

你是DeepSeek-R1-Agent,一个高效的内容创作者。

下载

2、初始化HuggingFacePipeline,加载本地DeepSeek模型权重路径,设置temperature=0.3、max_new_tokens=512。

3、若使用API方式,需启动DeepSeek官方提供的openai-compatible server,并将base_url设为http://localhost:8000/v1,model_name设为deepseek-chat。

四、构建向量存储与检索器

将文本块转化为高维向量并存入本地向量数据库,使自然语言问题能匹配最相关文档片段。

1、选用sentence-transformers中的bge-small-zh-v1.5作为嵌入模型,确保中英文混合场景下语义表征能力。

2、使用Chroma作为向量存储后端,设置persist_directory="./chroma_db"以支持持久化保存。

3、调用Chroma.from_documents()方法,传入切分后的文本块与嵌入模型,生成可查询的vectorstore实例。

4、配置similarity_search_with_score参数,限定top_k=3,并启用score_threshold=0.35以排除低置信度匹配项。

五、组装问答链并注入检索逻辑

将用户问题、检索结果与DeepSeek模型响应三者串联,形成端到端问答流程,其中检索结果作为上下文注入模型提示词。

1、定义PromptTemplate,模板中包含{context}占位符用于插入检索内容,{question}用于插入原始提问。

2、使用RetrievalQA.from_chain_type构造问答链,chain_type设为stuff,retriever设为上一步生成的vectorstore.as_retriever()。

3、在调用run()前,确保输入问题经过去噪处理:移除连续空格、全角标点替换为半角、截断超长输入至256字符以内。

热门AI工具

更多
Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

超级麦吉

一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

相关专题

更多
WorkBuddy核心功能与实操模式
WorkBuddy核心功能与实操模式

深入探索WorkBuddy的强大功能。本专题包含智能问答、文档处理、会议纪要生成、日程管理、任务协作等核心模块的操作指南与最佳实践。通过图文并茂的教程,助您快速上手,最大化发挥WorkBuddy的办公效能。

622

2026.04.09

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

100

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

60

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

60

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

20

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

60

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

20

2026.10.22

Golangci-lint安装与入门教程
Golangci-lint安装与入门教程

本专题讲解Golangci-lint的安装、初始化、基础命令和首次代码检查,覆盖本地环境、Docker及多平台用法,帮助Go开发者快速上手。

40

2026.10.22

PHP2Shell高危漏洞修复教程
PHP2Shell高危漏洞修复教程

PHP2Shell漏洞是什么,哪些PHP版本和运行环境会受到影响,服务器应该如何检测与修复?本专题提供版本自查脚本、Linux与Docker升级命令、PHP-FPM和Apache排查步骤,以及修复验证、临时缓解和应急响应方案。

280

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn