讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在扣子中接入本地Ollama运行的Llama 3模型

轻涛小哥_5783

轻涛小哥_5783

发布时间:2026-06-18 17:34:25

|

1196人浏览过

|

来源于php中文网

原创

必须通过反向代理(如ngrok)将本地Ollama的127.0.0.1:11434映射为公网HTTPS地址,并在Coze中配置该地址为API Endpoint、模型ID严格填llama3:8b,才能调用本地Llama 3模型。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如何在扣子中接入本地ollama运行的llama 3模型

要在扣子(Coze)中调用你本地电脑上通过Ollama运行的Llama 3模型,必须绕过Coze官方不支持直连本地服务的限制,采用反向代理+API协议桥接的方式实现。Coze只接受符合OpenAI兼容接口规范的HTTP端点,且要求服务可被其服务器网络访问,而你的Ollama默认只监听127.0.0.1:11434,外部不可达。

确认Ollama服务已正确暴露API

在终端执行 ollama serve,等待日志中出现 Listening on 127.0.0.1:11434 ——这表示服务已启动,但仅限本机访问。

Coze无法直接访问localhost,所以你必须让Ollama API能被公网或至少被Coze后端临时探测到。最稳妥的做法是使用本地反向代理工具(如ngrok或cloudflared)将127.0.0.1:11434映射为一个临时HTTPS地址。

运行 ngrok http 11434(需提前注册ngrok账号并配置authtoken),获取类似 https://abcd-1234-5678-90ef.ngrok-free.app 的URL。注意:该地址每次重启ngrok都会变化,仅用于测试。

【必须验证】 在浏览器中打开该ngrok地址,应返回 {"models": [...]} 或 Ollama is running。若显示404或连接拒绝,说明Ollama未真正监听或ngrok未正确转发。

准备Llama 3模型并确认tag完整

在本地终端运行:ollama pull llama3:8b。下载完成后,执行 ollama list,确保输出中明确包含一行:llama3 8b b1e1a7d6c9f3 4.7 GB。

Coze调用时必须使用带完整tag的模型名,仅写llama3会失败。Ollama不会自动匹配latest,【模型名必须为llama3:8b】,不能省略:8b。

如果想验证模型是否就绪,可手动发一个curl请求:curl -X POST https://abcd-1234-5678-90ef.ngrok-free.app/api/chat -H "Content-Type: application/json" -d '{"model":"llama3:8b","messages":[{"role":"user","content":"你好"}]}'。看到JSON响应含"message":{"role":"assistant","content":"..."}才算通路正常。

在Coze Bot中配置自定义LLM

进入Coze Bot后台 →「Bot设置」→「高级设置」→「大模型」→「添加自定义模型」。

填写以下三项:

① 模型名称:随意填写,例如local-llama3-8b;

② API Endpoint:粘贴上一步获得的ngrok HTTPS地址,末尾不加/v1或/api/chat,只填根域名,例如https://abcd-1234-5678-90ef.ngrok-free.app;

③ 模型ID:严格填写llama3:8b;

认证方式选「无认证」,因为Ollama默认不设密钥;超时时间建议设为120秒,避免因模型加载慢导致中断。

保存后,回到Bot对话流中,在任意节点选择「大模型」类型节点,下拉模型列表即可看到你刚添加的local-llama3-8b。选中它,发布Bot。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

LibLibAI
LibLibAI Hot

一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
Notion AI全功能使用教程
Notion AI全功能使用教程

本专题围绕 Notion AI 基础入门展开,涵盖注册登录、界面操作、核心功能使用及常见应用技巧,帮助新手快速熟悉 Notion AI 的内容整理、智能创作与协同办公能力,轻松提升学习与工作效率。

369

2026.05.27

Notion AI智能写作实操指南
Notion AI智能写作实操指南

本专题聚焦 Notion AI 智能写作功能,涵盖 AI 辅助写作、内容生成、文案润色、多语言翻译等实用技巧,帮助用户快速提升文章创作、办公整理与内容输出效率,轻松完成多场景写作需求。

348

2026.05.27

Notion AI项目管理零基础入门
Notion AI项目管理零基础入门

本专题聚焦Notion AI项目管理,系统整理项目看板搭建、任务分配、进度追踪及团队协作等核心内容,助力用户高效管理项目全流程。适合初学者快速掌握Notion AI在项目管理中的实用技巧。

319

2026.05.27

扣子智能体开发实操指南
扣子智能体开发实操指南

本专题面向开发者与产品同学,完整讲解扣子智能体Bot从零到一的搭建流程,包括Bot创建、提示词编写、插件接入、变量与记忆配置、调试与多渠道发布,帮助你打造属于自己的AI助手。

474

2026.06.05

扣子工作流全功能使用教程
扣子工作流全功能使用教程

本专题系统讲解扣子工作流的搭建逻辑与节点使用,覆盖LLM节点、代码节点、条件分支、循环节点与子工作流等核心能力,配合15个实战案例,帮助你用工作流把复杂业务流程自动化。

374

2026.06.05

扣子知识库零基础入门
扣子知识库零基础入门

本专题围绕扣子知识库与记忆系统,详细讲解知识库创建、文档上传、切片策略、向量召回、问答调优以及变量记忆与数据库的使用方法,帮助你打造高准确率的私有知识问答能力。

467

2026.06.05

PixTV官网入口地址合集
PixTV官网入口地址合集

本专题汇总了 PixTV AI 一站式视频创作平台的官方入口与使用教程。无需下载软件,浏览器直接访问即可使用。平台将剧本、图像、视频、声音与剪辑整合在“无限画布”中,接入 GPT Image 2.5、Seedance 2.5 等头部模型。本专题整理了从新建画布、角色锚定、分镜拆分到视频生成与导出的完整操作指南,助你快速上手 AI 短剧与漫剧创作。

20

2026.10.10

Kratos框架HTTP与gRPC服务开发教程
Kratos框架HTTP与gRPC服务开发教程

本专题围绕Kratos框架双协议服务开发,涵盖HTTP路由与处理器编写、参数获取、gRPC服务实现与客户端调用、metadata上下文传递、encoding编解码注册、统一响应封装、超时控制与流式响应实现方法。

20

2026.10.10

Kratos框架Protobuf接口定义与代码生成合集
Kratos框架Protobuf接口定义与代码生成合集

本专题讲解Kratos框架接口定义体系,涵盖proto编写规范、proto add/client/server生成命令、http注解路由、validate校验、OpenAPI文档生成、跨服务proto复用与兼容性设计。

0

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
扣子入门级教程
扣子入门级教程

共0课时 | 274人学习

扣子官方文档
扣子官方文档

共0课时 | 0人学习

Echo框架IP地址文档
Echo框架IP地址文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn