需通过配置聚合网关或多Provider机制实现动态调用多厂商大模型:一、Custom Provider接入Taotoken网关;二、OpenRouter抽象层切换模型;三、多Provider手动切换;四、环境变量预设默认模型;五、TaoTokenCLI快速注入配置。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您已部署Hermes Agent并希望在运行时动态调用多个不同厂商的大模型,则需通过配置兼容OpenAI协议的聚合网关或设置多Provider机制实现。以下是实现该能力的具体路径:
一、通过Custom Provider接入Taotoken统一网关
此方法利用Taotoken作为OpenAI API兼容的多模型聚合层,使Hermes Agent仅需一套配置即可路由至600+模型。核心在于将provider设为custom,并指向Taotoken的/v1端点。
1、访问Taotoken控制台,在「API密钥」页面创建新密钥,并复制该字符串。
2、进入「模型广场」,选取目标模型(如claude-sonnet-4-6或gpt-4o-mini),记录其完整模型ID。
3、在项目根目录创建或编辑.env文件,写入以下两行:
OPENAI_API_KEY=你的Taotoken_API_Key
OPENAI_BASE_URL=https://taotoken.net/api/v1
4、修改Hermes Agent配置文件(如hermes.config.js),将provider设为custom,并引用环境变量:
provider: 'custom',
customConfig: {
baseURL: process.env.OPENAI_BASE_URL,
apiKey: process.env.OPENAI_API_KEY
}
二、使用OpenRouter抽象层切换200+模型
OpenRouter提供标准化命名与统一认证,无需为各厂商单独申请密钥。Hermes Agent可通过其OpenAI兼容接口直接调用,所有模型均以openrouter/模型标识格式指定。
1、注册OpenRouter账号并获取API Key,保存为OPENROUTER_API_KEY环境变量。
2、在.env文件中添加:
OPENAI_API_KEY=sk-or-v1-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
OPENAI_BASE_URL=https://openrouter.ai/api/v1
3、启动Agent后,在代码中显式指定模型名,例如:
model: openrouter/google/gemma-2-9b-it
或
model: openrouter/mistralai/mistral-7b-instruct
基于阿里云百炼 Qwen3.5-Omni 的全模态技能,支持文本、图片、音频、视频理解与文本/语音输出。适用于图片分析、音频转写理解、视频理解、跨模态问答及语音回复生成。
三、配置多Provider并手动切换
当需在同一Agent实例中隔离不同服务来源(如部分任务走Taotoken、部分走本地Ollama)时,可声明多个provider并在运行时按需选择。每个provider需独立定义base_url、认证方式及默认模型。
1、在hermes.config.js中定义providers数组:
providers: [
{ type: 'custom', name: 'taotoken', config: { baseURL: 'https://taotoken.net/api/v1' } },
{ type: 'custom', name: 'ollama', config: { baseURL: 'http://localhost:11434/v1' } }
]
2、启动Agent时传入provider名称:
const agent1 = new Agent({ provider: 'taotoken', model: 'taotoken/gpt-4o' });
const agent2 = new Agent({ provider: 'ollama', model: 'llama3' });
3、确保对应环境变量已分别设置,例如TAOTOKEN_API_KEY与OLLAMA_API_KEY。
四、通过环境变量预设默认模型
该方法适用于批量部署或CI/CD场景,可在启动前固定模型偏好,避免每次会话重复调用/model指令,所有后续对话将自动绑定指定模型。
1、在启动Hermes Agent前,设置环境变量:HERMES_DEFAULT_MODEL=taotoken/claude-sonnet-4-6
2、Linux/macOS用户执行:export HERMES_DEFAULT_MODEL=taotoken/gpt-4o-mini,再运行hermes agent start。
3、Windows PowerShell用户执行:$env:HERMES_DEFAULT_MODEL="openrouter/qwen/qwen2-72b-instruct",再运行hermes agent start。
4、验证是否生效:启动后输入/model,确认显示的当前模型与环境变量值一致。
五、使用TaoTokenCLI快速注入配置
TaoToken官方CLI工具可自动完成环境变量写入与基础配置生成,跳过手动编辑步骤,适合快速验证集成效果。
1、执行命令安装并初始化:
npx @taotoken/taotoken hermes --key <strong><font color="green">YOUR_TAOTOKEN_API_KEY</font></strong>
2、若需同时指定默认模型,追加-m参数:
npx @taotoken/taotoken hm -k <strong><font color="green">YOUR_TAOTOKEN_API_KEY</font></strong> -m <strong><font color="green">taotoken/gpt-4-turbo-preview</font></strong>
3、CLI将自动创建.env文件并更新hermes.config.js中的customConfig段。

















