必须验证Ollama服务就绪并正确配置Dify供应商:先执行ollama list确认模型存在,再访问http://localhost:11434验证JSON响应;Dify中填准确模型名(如llama3:8b)、基础URL(Docker用host.docker.internal,本地用localhost)、模型类型选“对话”,上下文长度设4096。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

想让Dify直接调用你本机跑着的Llama3、Qwen2或DeepSeek-R1等本地大模型,不走公网、不付API费用、数据完全留本地——这需要打通Ollama服务与Dify后台的通信链路,关键在地址填对、模型名写准、网络通得过。操作前请确认Ollama已运行且模型已拉取,否则后续所有配置都无效。
确认Ollama服务已就绪
打开终端(Windows用PowerShell,macOS/Linux用Terminal),执行ollama list,检查输出中是否有类似llama3:8b或qwen2:0.5b的条目。没有就立刻拉取:ollama pull llama3:8b。
拉取完成后,运行ollama run llama3:8b,看到>>>提示符并能正常对话,说明模型可运行;按Ctrl+D退出后,Ollama服务仍在后台持续监听http://localhost:11434。
【必须验证】浏览器访问http://localhost:11434,页面返回JSON格式的Ollama信息(含version字段),才代表服务真正就绪。如果打不开,Ollama可能未自启,需手动运行ollama serve再试。
Dify中添加Ollama模型供应商
登录Dify Web界面(通常是http://localhost:3000),点击右上角头像→设置→模型供应商→右上角“+ 添加”→选择“Ollama”。
填写以下四项必填项:
模型名称:严格匹配ollama list里显示的完整名称,例如llama3:8b,不能写成llama3-8b或llama3;
基础URL:根据Dify部署方式选——若Dify是Docker容器,填http://host.docker.internal:11434(Mac/Win)或http://172.17.0.1:11434(Linux);若Dify是源码本地启动,填http://localhost:11434;
模型类型:选“对话(Chat)”;
使用AIsa生成图像与视频。仅需一个API密钥即可调用Gemini 3 Pro Image(图像)和Qwen Wan 2.6(视频)。
模型上下文长度:填4096(Llama3:8b官方推荐值)。
其他字段可保持默认,点击“保存”。
测试连接并启用模型
第一步:保存后Dify会自动发起一次连接测试。若状态显示“✅ 连接成功”,说明配置无误。
第二步:若显示“❌ 连接失败”,先检查三项:
① Ollama是否正在运行(ollama ps应有进程);
② 基础URL是否填错(尤其Docker环境下绝不能填localhost);
③ 防火墙是否拦截了11434端口(Windows需在“高级安全防火墙”中放行该端口)。
第三步:测试通过后,在“工作室”中新建或编辑任意应用,在“大模型”配置处下拉选择刚添加的llama3:8b,即可开始使用本地模型生成内容。

















