应精简系统提示词、限制输出长度、切换高性价比模型（如DeepSeek-V3）、启用本地模型与流式响应截断、实施缓存生命周期管理、优化向量数据库存储。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您正在使用Hermes Agent并发现API调用费用持续超出预期，则很可能是由于模型请求未加约束、缓存未有效复用或模型选型不当所致。以下是针对性的费用控制方法：
一、精简系统提示词与限制输出长度
冗长的系统提示词和无上限的响应生成会直接推高Token消耗，尤其在高频调用场景下形成显著成本累加。通过压缩指令体积与设定输出硬上限，可从源头削减无效Token支出。
1、进入Hermes Agent配置界面，定位“System Message”字段。
2、删除所有含“例如”“比如”“你可以这样理解”的辅助说明句。
3、将角色定义压缩为单句，如将“你是一个能调用终端、搜索网页、读取文件的全能AI助手”简化为你是一名支持终端、网页、文件操作的AI助手。
4、在API请求参数中显式设置max_tokens值：问答类设为128，摘要类设为64，结构化提取类设为32。
5、执行三次不同阈值测试，选取首个能稳定返回完整答案的最小值作为最终设定。
二、切换高性价比模型提供商
模型单价差异极大，百炼qwen3.5-plus与DeepSeek-V3在相同任务下的输入成本可相差5倍以上。更换为单位Token价格更低的模型，是见效最快的成本优化路径。
1、编辑Hermes配置文件config.yaml，将model.provider由qwen改为deepseek。
2、在model.api_key字段填入DeepSeek官方发放的API Key。
3、将model.model设为deepseek-chat，该模型输入单价为¥1/百万token，约为Claude 3.5的5%。
4、若需兼顾复杂推理与成本，可配置多模型路由：日常对话走DeepSeek，编程任务用deepseek-coder，关键决策任务临时切至anthropic/claude-3.5-sonnet。
三、启用本地模型与流式响应截断
完全规避云API调用费用的终极方案是本地运行轻量级开源模型；而流式响应则允许在答案明确出现后立即终止接收，避免模型续写无关内容产生额外Token。
1、在Linux/macOS/WSL2环境中执行curl -fsSL https://ollama.com/install.sh | sh安装Ollama。
2、运行ollama pull qwen2.5:7b下载7B参数量模型。
3、执行hermes config set model.provider ollama与hermes config set model.model qwen2.5:7b完成绑定。
4、将API请求中的stream参数设为true。
5、在客户端监听token流，当检测到字符串“答案已明确给出”或JSON闭合符"}"时，立即中断连接。
四、实施缓存生命周期管理与轨迹压缩
重复请求相同问题或加载冗余历史上下文会引发大量重复Token计费。通过为缓存设置分级TTL及对轨迹数据进行可控压缩，可大幅降低重复计算与上下文注入开销。
1、打开tools/terminal_tool.py，定位缓存管理器初始化位置。
2、调用set_ttl()方法：图片缓存设为hours=24，音频缓存设为hours=48。
3、修改datagen-config-examples/trajectory_compression.yaml，将target_max_tokens设为4000，summary_target_tokens设为500。
4、在任务调度中加入每2小时执行一次cache_manager.cleanup_expired()的定时指令。
5、对已生成的轨迹文件批量执行llmcompressor --quantize 4bit，压缩后体积减少约40%。
五、优化向量数据库存储与启用磁盘负载卸载
Qdrant默认将全部payload加载至内存，导致每次检索都触发高开销序列化与网络传输。启用磁盘存储与标量量化后，可显著降低内存驻留压力与远程调用带宽消耗。
1、初始化QdrantVectorStore实例时，传入参数on_disk_payload=True与quantization=True。
2、确认collection配置中已启用prefer_grpc=True，以提升批量向量写入效率。
3、对现有collection执行recreate_with_quantization命令，迁移全部历史数据至量化格式。
4、验证迁移后查询延迟增幅不超过15%，且内存占用下降≥60%。
