需确保Ollama已运行并拉取Llama3,浏览器访问http://localhost:11434返回JSON确认服务就绪;Dify中添加Ollama供应商时,模型名称严格匹配ollama list输出(如llama3:8b),基础URL按部署方式填host.docker.internal或localhost,选“对话”类型及上下文长度4096。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

想让Dify直接调用你本机跑着的Llama3模型,不走公网、不付API费用、数据完全留本地——这需要打通Ollama服务与Dify后台的通信链路,关键在地址填对、模型名写准、网络通得过。
确认Ollama已运行并拉取Llama3
打开终端(Windows用PowerShell,macOS/Linux用Terminal),执行ollama list,检查输出中是否有类似llama3:8b或llama3.2:1b的条目。没有就立刻拉取:ollama pull llama3:8b。
拉取完成后,运行ollama run llama3:8b,看到>>>提示符并能正常对话,说明模型可运行;按Ctrl+D退出后,Ollama服务仍在后台持续监听http://localhost:11434。
【必须验证】浏览器访问http://localhost:11434,页面返回JSON格式的Ollama信息(含version字段),才代表服务真正就绪。如果打不开,Ollama可能未自启,需手动运行ollama serve再试。
Dify中添加Ollama模型供应商
登录Dify Web界面(通常是http://localhost:3000),点击右上角头像→设置→模型供应商→右上角“+ 添加”→选择“Ollama”。
大模型 Token 成本节约工具。在请求到达大模型之前自动压缩 prompt 和上下文,减少 60-95% 的 token 消耗,直接降低 API 成本。支持 Claude/OpenAI/Gemini 等主流模型,提供代理模式、CLI 包装、Python SDK 和 MCP Server 四种接入方式。内置一键安...
填写以下四项必填项:
- 模型名称:严格匹配
ollama list里显示的完整名称,例如llama3:8b,不能写成llama3-8b或llama3; - 基础URL:根据Dify部署方式选——若Dify是Docker容器,填
http://host.docker.internal:11434(Mac/Win)或http://172.17.0.1:11434(Linux);若Dify是源码本地启动,填http://localhost:11434; - 模型类型:选“对话(Chat)”;
- 模型上下文长度:填
4096(Llama3:8b官方推荐值)。
其他字段可保持默认,点击“保存”。
测试连接并启用模型
保存后,Dify会自动发起一次连接测试。若状态显示“✅ 连接成功”,说明配置无误。
若显示“❌ 连接失败”,先检查三项:
① Ollama是否正在运行(ollama ps应有进程);
② 基础URL是否填错(尤其Docker环境下绝不能填localhost);
③ 防火墙是否拦截了11434端口(Windows需在“高级安全防火墙”中放行该端口)。
测试通过后,在“工作室”中新建或编辑任意应用,在“大模型”配置处下拉选择刚添加的llama3:8b,即可开始使用本地模型生成内容。

















