需修改config.yaml将HermesAgent后端指向本地Ollama:一、确认ollama list显示模型为loaded、服务监听11434端口且http://localhost:11434可达;二、编辑~/.hermes/config.yaml;三、在llm节点下配置model、base_url(含/v1)、api_key(非空);四、添加ollama_compatible: true;五、重启HermesAgent并验证日志。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您希望让HermesAgent脱离云端依赖、在本地直接调用大语言模型,则需通过修改YAML配置文件将其后端指向本地运行的Ollama服务。以下是完成该配置的具体操作步骤:
一、确认Ollama服务已就绪
此步骤确保HermesAgent连接的目标服务处于可通信状态。Ollama必须已安装、正在运行,且所需模型已成功拉取,否则后续配置将无法生效。
1、在终端中执行ollama list,检查输出中是否存在目标模型(如llama3:8b或qwen2)且状态为loaded。
2、执行ollama serve启动服务;若已运行,可跳过此步。
3、在浏览器中访问http://localhost:11434,返回包含{"models":[]}或类似JSON结构的响应,即表示服务可达。
二、定位并编辑config.yaml主配置文件
该文件是HermesAgent的核心配置载体,所有模型参数均由此定义。路径因系统而异,但统一位于用户级配置目录中,需确保编辑权限与路径准确性。
1、Linux/macOS用户进入~/.hermes/config.yaml;Windows用户访问C:\Users\用户名\AppData\Local\hermes\config.yaml。
2、若文件不存在,可新建一个空白文件,并确保其编码为UTF-8、无BOM。
3、使用纯文本编辑器(如VS Code、Notepad++)打开,避免Word等富文本工具造成格式污染。
三、配置Ollama模型参数块
该配置使HermesAgent识别Ollama为LLM提供方,并指定模型名称与接口地址。Ollama不校验API密钥,但字段必须存在且非空,否则部分版本会拒绝加载。
1、在文件中找到llm:节点(若无则手动添加),在其下填入以下内容:
model: "llama3:8b"
base_url: "http://localhost:11434/v1"
api_key: "ollama"
2、严格保证缩进为两个空格,禁止使用Tab字符;base_url末尾必须含/v1路径段,否则请求将失败。
3、保存文件前,逐行核对冒号后是否有一个空格,YAML语法对空格极其敏感。
四、启用Ollama兼容模式(适配响应格式)
Ollama早期版本返回的JSON字段名与OpenAI标准不一致(例如使用message而非choices[0].message.content),启用兼容模式可自动转换字段映射,避免解析错误。
1、在llm:节点下新增一行:ollama_compatible: true。
2、确认该行与model、base_url等字段处于同一缩进层级(即两个空格)。
3、若HermesAgent版本低于v0.3.0且不识别该字段,则需跳过本步,转而采用CLI方式配置或升级框架。
五、验证配置并重启服务
配置生效前必须重启HermesAgent进程,使其重新读取YAML文件。未重启将导致旧配置持续生效,所有修改无效。
1、在HermesAgent项目根目录或任意路径下执行hermes restart命令。
2、若提示“command not found”,请改用hermes stop && hermes start组合指令。
3、启动后执行hermes chat发起一次对话,观察终端日志是否出现Using model: llama3:8b及POST http://localhost:11434/v1/chat/completions请求记录。


















