AnythingLLM可通过API接入天工AI实现本地知识库调用云端大模型:需在天工开放平台获取含chat和embeddings权限的API密钥,配置Base URL为https://api.kimi.ai/v1、模型名moonshot-v1-8k;嵌入模型须用Ollama本地部署bge-m3或nomic-embed-text;文档全程保留在本地LanceDB中。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

想让本地知识库调用天工AI(Kimi)的云端大模型能力,又不想把文档上传到第三方服务器?AnythingLLM支持通过API方式接入天工AI,只需正确配置密钥与端点,即可在保留私有知识库结构的前提下,将问答推理交由天工AI完成。
确认天工AI API权限与密钥
登录天工AI开放平台(https://platform.kimi.ai),进入「API密钥管理」页面 → 点击「创建新密钥」→ 勾选「chat」和「embeddings」权限 → 复制生成的API Key。
【必须确保该密钥未被禁用且配额充足,否则AnythingLLM将无法连接】
记下API Base URL:https://api.kimi.ai/v1(非官网首页地址,勿填错)。
在AnythingLLM中配置天工AI为LLM提供商
启动AnythingLLM → 点击左下角⚙️进入「设置」→ 切换到「LLM Preference」标签页 → 在「Provider」下拉菜单中选择「OpenAI Compatible」。
填写以下三项:
- API Key:粘贴刚才复制的天工AI密钥
- Base URL:https://api.kimi.ai/v1
- Model Name:输入 moonshot-v1-8k(天工当前主力模型,支持32K上下文)
点击「Save Changes」保存。此时系统会尝试自动检测连接——若右上角出现绿色对勾图标,说明接入成功;若显示红色叉号,请检查密钥是否过期或Base URL末尾是否误加斜杠。
配置嵌入模型(Embedder)以匹配天工AI语义理解
天工AI官方未开放独立嵌入模型服务,因此不能直接使用其embedding API。必须改用本地Ollama提供的兼容嵌入模型,否则知识检索将失效。
在「Embedder Preference」标签页中:
方法一:选择「Ollama」→ 在Model字段输入 bge-m3 → 点击「Download & Set」(首次需下载,约200MB)
天工AI (iOS) 5.2.1版本新增 PPT 生成页数配置、十余种专业视频模板,并且支持设置视频比例与时长;定时任务可指定模型并推送到 IM 渠道。修复了下载失败等问题,提升了稳定性与内容创作体验,让创作更自由、更高效。
方法二:若已部署nomic-embed-text,可选「Ollama」→ 输入 nomic-embed-text → 确保Ollama后台正在运行
【切勿在此处选择「OpenAI Compatible」并填入天工API,会导致向量化失败、知识库无法检索】
创建工作区并启用天工AI推理
第一步:返回主界面 → 点击「Create New Workspace」→ 输入名称(如“天工研报库”)→ 点击「Continue」
第二步:进入新工作区 → 点击右上角「Settings」齿轮图标 → 找到「Chat Settings」→ 将「LLM Provider」下拉框切换为「OpenAI Compatible」
第三步:滚动到底部 → 点击「Update Workspace」
此时工作区已绑定天工AI作为问答引擎,但知识仍完全存储于本地LanceDB中,所有文档从未离开你的电脑。
上传文档并触发嵌入处理
点击工作区左侧「Upload Documents」按钮 → 拖入PDF/DOCX/TXT等文件 → 等待右下角状态栏显示「Processing…」→ 出现绿色「Embedded」标签即完成。
注意:首次嵌入时若使用bge-m3,10MB PDF约需90秒;若文档含表格或公式,建议先转为纯文本再上传,避免OCR识别错误干扰向量质量。
完成后,直接在聊天框输入问题,例如“请总结附件中Q2销售策略的三个核心动作”,AnythingLLM将调用天工AI实时解析本地向量匹配结果并生成回答。

















