HermesAgent 离线调用本地 Ollama 模型需确保服务启动、模型拉取并正确配置:一、CLI 向导(hermes model → 选 ollama → 输入模型名 → 保存重启);二、手动编辑 config.yaml(设 model、provider、base_url、api_key 及 ollama_compatible);三、一行命令 ollama launch hermes 自动部署;四、验证需 ollama list 查状态、curl 测连通、hermes chat 测试响应并检查字段格式。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您希望 HermesAgent 在完全离线环境下运行,并调用本地部署的 Ollama 大模型,则需确保 Ollama 服务已启动、目标模型已拉取,且 HermesAgent 配置能正确指向该服务。以下是实现此目标的多种可行方法:
一、使用 CLI 快速配置向导(推荐新手)
该方式通过交互式命令自动完成 provider 类型、基础地址与模型名称的设置,避免手动编辑配置文件出错,适合首次配置用户。
1、在终端中执行初始化命令:hermes model。
2、当提示选择 LLM Provider 时,输入 ollama 并回车。
3、当提示选择 Model 时,输入已通过 ollama pull 下载的模型名,例如 qwen2.5:7b 或 llama3.1:8b。
4、确认配置无误后输入 y 保存并退出。
5、重启 HermesAgent 使配置生效:hermes stop && hermes start。
二、手动编辑 config.yaml 文件
该方式适用于需要精细控制参数或批量部署场景,直接修改 YAML 配置文件可确保字段完整、缩进合规,并支持启用兼容模式等高级选项。
1、进入 HermesAgent 配置目录,通常为 ~/.hermes/,确认存在 config.yaml 文件;若不存在则新建。
2、用文本编辑器打开该文件,在 llm: 节点下填入以下内容(注意空格缩进必须为两个空格):
model: "qwen2.5:7b"
provider: "ollama"
base_url: "http://localhost:11434/v1"
api_key: "ollama"
Qwen 视频智能分析基础客户端(免费版),基于 Qwen 3.5 Plus 多模态模型对本地视频进行内容分析,支持场景描述与基础内容理解,采用默认抽帧频率和提示词,适合快速概览视频,API Key 读取自 ~/.skill-platform/skill-platform.json 的 skills 配置。
3、如使用 HermesAgent v0.3.0 及以上版本,可在同一节点添加兼容字段:ollama_compatible: true。
4、保存文件后执行 hermes restart 加载新配置。
三、通过一行命令全自动部署(Ollama 内置集成)
该方式由 Ollama 官方提供,整合了 HermesAgent 安装、模型选择、端点配置与网关接入全流程,全程无需人工干预,适用于希望极速落地的用户。
1、在终端中复制粘贴并执行:ollama launch hermes。
2、等待进度条显示 [1/4] Checking Hermes installation,若未安装则自动下载。
3、[2/4] Select a model 步骤中,使用方向键选择已拉取的本地模型(如 gemma-2-9b-it),按回车确认。
4、[3/4] Configuring Ollama provider 步骤将自动写入 http://localhost:11434/v1 地址及对应模型名。
5、[4/4] Connect a messaging platform? 可跳过或按提示接入 Telegram/Discord 等平台。
四、验证本地连接是否成功
无论采用何种配置方式,最终都必须验证 HermesAgent 是否真正调通 Ollama 服务,防止因端口占用、模型未加载或 URL 错误导致静默失败。
1、新开终端窗口,执行 ollama list,确认目标模型状态为 loaded。
2、执行 curl http://localhost:11434,返回包含 {"models":[]} 的 JSON 即表示服务可达。
3、运行测试指令:hermes chat -q "你好,请用中文简单介绍自己"。
4、观察终端输出是否返回模型生成的响应内容,而非超时、连接拒绝或 404 错误。
5、若响应中出现 "message" 字段而非 "choices",说明需启用 ollama_compatible: true 配置。

















