开启四层记忆过滤可优化Hermes Agent上下文、降低推理成本:一、设semantic_threshold为0.65、top_k_relevant为3;二、启用time_decay_enabled、decay_window_hours为12;三、配置intent_whitelist并启用intent_pruning;四、改context_builder_type为slot_based,指定slots_to_retain。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您正在使用 Hermes Agent 并发现其上下文处理开销持续升高,导致推理成本增加,则可能是由于历史对话记忆未加筛选地累积,造成 token 占用激增。以下是开启四层记忆过滤以优化上下文、降低 Hermes Agent 费用的具体操作路径:
一、启用语义相关性阈值过滤
该层过滤通过计算当前查询与历史消息的余弦相似度,仅保留与当前任务语义最相关的前 N 条记忆,剔除低关联冗余内容,显著压缩输入上下文长度。
1、在 Hermes Agent 配置文件 config.yaml 中定位 memory_filter 层级。
2、将 semantic_threshold 参数由默认的 0.0 修改为 0.65。
3、设置 top_k_relevant 参数为 3,确保每次仅注入三条高相关记忆。
二、激活时间衰减权重机制
该层依据消息时间戳施加指数衰减因子,使距当前请求越久远的记忆影响力越弱,超过指定窗口(如 12 小时)的记忆自动被排除在上下文之外。
1、在 memory_filter 下新增 time_decay_enabled: true。
2、设定 decay_window_hours 为 12,decay_base 为 0.92。
3、重启 Hermes Agent 服务以加载新时间衰减策略。
三、部署角色意图识别剪枝
该层利用轻量级意图分类器对每条历史消息标注角色功能标签(如“澄清提问”“确认指令”“错误反馈”),仅保留具备决策支撑价值的意图类型,剔除纯情绪表达或重复确认类条目。
1、下载预训练模型 intent-pruner-v2.onnx 至 /models/filter/ 目录。
2、在 filter_config 中配置 intent_whitelist: ["clarify", "command", "error_diagnosis"]。
3、将 enable_intent_pruning 设为 true。
四、启用结构化槽位提取替代原始对话流
该层跳过完整对话文本回填,转而从历史交互中抽取已验证的结构化参数(如用户指定的日期、ID、状态码),以 JSON 片段形式注入上下文,体积压缩率达 78% 以上。
1、在 pipeline 配置中将 context_builder_type 改为 slot_based。
2、确认 slot_extraction_model_path 指向有效的 /models/slot-extractor.pt。
3、将保留槽位列表 slots_to_retain 设置为 ["user_id", "target_date", "error_code", "priority_level"]。


















