Hermes Agent离线运行需配置本地模型服务：一、用Ollama拉取并启动qwen2.5等模型；二、通过hermes model或手动编辑config.yaml设置custom provider及http://localhost:11434/v1端点；三、启用ollama_compatible:true兼容模式；四、预打包离线依赖；五、验证status、debug日志及断网响应。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您尝试在无网络连接的环境中运行Hermes Agent，却发现其无法响应或报错提示模型不可达，则问题很可能源于默认配置对云端API的强依赖。以下是针对该现象的多种离线可用方案说明：
一、使用Ollama运行本地大模型
该方法通过Ollama在本地启动兼容OpenAI API规范的模型服务，使Hermes Agent完全脱离互联网依赖，实现零数据上传、零API费用、零网络延迟的纯离线运行。
1、在离线机器上安装Ollama二进制程序（支持Linux/macOS/Windows）。
2、执行ollama pull qwen2.5:7b等命令下载已适配的本地模型（需提前在外网机完成拉取并迁移模型文件夹）。
3、运行ollama serve启动本地服务，确认终端输出包含Listening on 127.0.0.1:11434。
4、使用curl http://localhost:11434验证服务可达性，返回非空JSON即为成功。
二、配置CustomEndpoint对接本地接口
此步骤强制Hermes Agent绕过默认云厂商路由，将所有LLM请求定向至本地Ollama实例，关键在于显式声明端点地址与模型标识，并满足OpenAI兼容格式要求。
1、执行hermes model进入交互式配置向导。
2、当提示选择LLM Provider时，输入custom而非ollama或openai。
3、Base URL填写http://localhost:11434/v1，确保路径含/v1后缀。
4、Model Name填入已加载的模型标签，例如qwen2.5:32b。
5、API Key可任意输入非空字符串，如ollama，Ollama实际忽略该值但部分Hermes版本校验其存在性。
三、手动编辑config.yaml启用离线模式
该方式适用于批量部署或CLI不可用场景，直接控制YAML字段精度，避免交互式向导可能跳过的兼容性开关。
1、定位Hermes Agent项目根目录下的~/.hermes/config.yaml文件。
2、在model:节下完整写入以下内容，注意缩进必须为两个空格且禁用制表符：
provider: custom
base_url: "http://localhost:11434/v1"
model: "llama3.1:8b"
api_key: "ollama"
3、保存后执行hermes restart使新配置生效。
四、启用Ollama响应兼容模式
早期Ollama返回的JSON结构与OpenAI标准不一致，可能导致Hermes解析失败；启用兼容模式可自动转换字段格式，确保消息体正确映射到choices[0].message.content路径。
Qwen 视频智能分析基础客户端（免费版），基于 Qwen 3.5 Plus 多模态模型对本地视频进行内容分析，支持场景描述与基础内容理解，采用默认抽帧频率和提示词，适合快速概览视频，API Key 读取自 ~/.skill-platform/skill-platform.json 的 skills 配置。
1、检查当前Hermes Agent版本是否≥v0.3.0，若低于该版本需升级。
2、在config.yaml中添加或修改字段：ollama_compatible: true。
3、确认该字段位于model:层级下，与base_url等同级。
4、重启服务后，使用hermes chat发起测试请求，观察是否返回有效文本而非格式错误提示。
五、离线环境全量依赖预打包
针对完全断网的服务器或内网高安全区域，需在外网机器预先构建包含Python解释器、wheel包、源码及install.sh的完整离线包，规避任何实时网络调用。
1、在外网Linux主机创建工作目录，下载官方install.sh脚本。
2、使用git clone --recursive获取完整Hermes-Agent源码仓库（含子模块）。
3、用uv pip wheel命令将requirements.txt中全部依赖编译为wheel包并存入本地目录。
4、打包install.sh、源码zip、wheel文件夹、Python可执行文件及site-packages内容为hermes-offline-bundle.tgz。
5、将压缩包拷贝至离线机，解压后运行./install.sh，在git clone步骤前中断脚本，手动解压源码zip到指定路径，再继续执行后续初始化。
六、验证离线运行状态
完成任一上述配置后，必须通过终端命令确认Hermes Agent已脱离云端依赖，真实调用本地模型资源。
1、执行hermes status，检查输出中LLM Provider字段是否显示custom或ollama。
2、运行hermes chat --debug，观察日志中HTTP请求目标是否为http://localhost:11434/v1/chat/completions。
3、断开机器网络连接，重复发起对话请求，确认仍能返回模型响应而非超时或连接拒绝错误。
4、查看系统资源监控，确认CPU与内存占用来自ollama进程而非外部网络连接线程。
七、模型选型与硬件匹配要点
本地模型性能直接受限于物理设备算力，需根据可用RAM与显存严格匹配模型参数规模，否则将触发OOM或推理失败。
1、qwen2.5:7b（4.7GB）需至少8GB可用内存，适合轻量中文对话任务。
2、deepseek-coder-v2:16b（9GB）需16GB RAM，专为编程类指令优化。
3、qwen2.5:32b（19GB）需32GB RAM，支持复杂逻辑推理，推荐作为主力离线模型。
4、llama3.1:70b（40GB）需64GB+ RAM，仅适用于高性能工作站，普通笔记本请勿尝试。
