Hermes Agent不内置闭源模型，需通过OpenAI兼容API、Ollama、vLLM、OpenRouter或Anthropic等标准化接口接入外部模型；配置时需指定provider、base_url及model，并按不同服务要求设置API密钥或启动对应服务。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您希望在本地运行Hermes Agent并接入不同大语言模型，需明确其本身不内置闭源模型，而是通过标准化接口（如OpenAI兼容API、Ollama、vLLM、OpenRouter等）动态加载外部模型。以下是具体操作路径：
一、支持的模型类型与接入方式
Hermes Agent不自带权重文件，而是作为智能体调度框架，依赖第三方模型服务提供推理能力。它原生适配多种后端：OpenRouter（含200+模型）、Ollama本地模型、阿里云百炼、DeepSeek、Kimi、智谱GLM、MiniMax、Anthropic Claude（通过Provider直连）以及自托管vLLM服务器。
1、确认本地或远程模型服务已启动并暴露OpenAI风格API端点；
2、编辑~/.hermes/config.yaml，在model节指定provider类型与base_url；
3、若使用Ollama，确保ollama serve正在运行，并将provider设为ollama，model字段填写llama3:8b等已拉取的模型名；
4、若使用OpenRouter，需在.env中设置OPENROUTER_API_KEY，并在config.yaml中指定provider: openrouter及对应模型ID（如openrouter/auto或anthropic/claude-3.5-sonnet）。
二、Ollama本地模型下载与配置
Ollama是轻量级本地模型运行时，适用于无GPU或仅具消费级显卡的环境。Hermes Agent可直接调用其HTTP API，无需额外代理层。
1、访问https://ollama.com/library查找目标模型，例如qwen2:7b、deepseek-coder:6.7b或phi3:3.8b；
2、执行命令拉取模型：ollama pull qwen2:7b；
3、启动Ollama服务：ollama serve（默认监听127.0.0.1:11434）；
4、修改~/.hermes/config.yaml中model配置段：
provider: ollama
base_url: http://localhost:11434
model: qwen2:7b
三、OpenRouter云端模型直连
OpenRouter聚合了多家厂商模型，免去本地部署负担，适合快速验证与低资源环境。Hermes Agent对其支持开箱即用，且自动处理API密钥轮换与速率限制回退。
1、注册并获取API Key：https://openrouter.ai/keys；
2、将Key写入~/.hermes/.env文件：OPENROUTER_API_KEY=sk-or-v1-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx；
3、在config.yaml中配置：
provider: openrouter
model: google/gemma-2-9b-it
4、保存后执行hermes model命令，即可列出当前可用模型并切换。
四、vLLM自托管高性能服务接入
vLLM提供高吞吐、低延迟的推理服务，适用于批量请求或生产级部署。Hermes Agent通过标准OpenAI API兼容层与其通信，无需修改技能逻辑。
1、安装vLLM：pip install vllm；
2、启动服务，加载模型（以Llama-3-8B-Instruct为例）：
python -m vllm.entrypoints.openai.api_server --model meta-llama/Meta-Llama-3-8B-Instruct --tensor-parallel-size 1 --host 0.0.0.0 --port 8000；
3、配置Hermes指向该服务：
provider: openai
base_url: http://your-server-ip:8000/v1
model: meta-llama/Meta-Llama-3-8B-Instruct
五、Anthropic Claude模型直连（无需API Key转换）
Hermes Agent原生支持Anthropic Provider，可直接使用Claude Code账户凭证登录，跳过API Key手动配置环节，实现OAuth式安全鉴权。
1、确保已安装最新版Hermes：curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash；
2、执行hermes auth login anthropic，浏览器将自动打开Claude Code登录页；
3、完成授权后，凭证自动存入~/.hermes/auth.json；
4、在config.yaml中设置：
provider: anthropic
model: claude-3-5-sonnet-20241022
