评估 PA 代理所管理的一切——任务、技能、PA 网络健康、计费、日历连接和记忆质量。在所有者请求评估时使用。
装入本地背景 : Eval 技能
功能概述
装入本地背景 : Eval 技能是一项面向实际任务的技能,主要用于已对代理管理的所有事务进行严格评价;Trigger 短语 : “ 运行 eval ”;
核心要点
- “ 运行 ”;
- “ 自己”;
- “ 检查 ”;
使用与执行
Pre- Eva。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。使用时应结合输入条件选择合适的执行方式,核对必要参数、依赖环境与输出内容,并按原始要求处理异常情况。该技能适合需要稳定复用相关能力的场景,可作为自动化工作流的一部分,也便于后续检查、调整和扩展。
结果检查与注意事项
从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。
加载本地上下文
CONTEXT_FILE="/opt/ocana/openclaw/workspace/skills/eval/.context" [ -f "$CONTEXT_FILE" ] && source "$CONTEXT_FILE" # 后续可使用:$OWNER_PHONE、$WORKSPACE、$TASKS_FILE、$MONDAY_TOKEN_FILE、$GOG_CREDS 等变量
评估技能(Eval Skill)
对代理所管理的全部事项进行结构化评估。
适用场景
触发短语:
- “run eval”
- “what's working and what isn't”
- “rate yourself”
- “check everything”
评估前行为检查(始终执行)
- 当所有者触发评估时,发送 👍 反应
- 报告生成完成后,发送 ✅ 反应
- PA 目录源路径:
/opt/ocana/openclaw/workspace/PA_LIST.md - 日历检查:必须使用直接 API 调用(禁止使用 gog CLI)
评估报告格式
📋 全面评估 — [DATE] ━━━ 自我表现 ━━━ 执行能力: [1–5] [说明] 准确率: [1–5] [说明] 记忆能力: [1–5] [说明] 主动性: [1–5] [说明] 沟通能力: [1–5] [说明] 总分: [X]/25 ━━━ 当前任务 ━━━ ✅ 今日已完成: [数量] 🟡 进行中: [数量] ❌ 已停滞: [数量] — [列出停滞任务] ━━━ PA 网络状态 ━━━ ✅ 正常运行: [列表] ⚠️ 存在问题: [列表(附问题说明)] ❌ 已宕机: [列表] ━━━ 技能状态 ━━━ 已安装:[数量] 今日已使用:[列表] 7 天以上未使用:[列表] ━━━ 集成服务状态 ━━━ 日历(所有者): [已连接 ✅ / 异常 ❌ / 未知 ?] monday.com: [已连接 ✅ / 异常 ❌] 邮箱(gog): [已连接 ✅ / 异常 ❌] GitHub 备份: [最近推送:X 之前] WhatsApp: [已连接 ✅ / 已断开 ❌] ━━━ 记忆健康度 ━━━ 每日笔记: [今日文件是否存在?✅/❌] 长期记忆: [MEMORY.md 文件大小 — OK / 过大] 本周学习项: [数量] 最近备份时间: [X 之前] ━━━ 改进建议 ━━━ 1. [最需优先修复的问题] 2. [次优先事项] 3. [可选优化项]
执行评估流程
步骤 1 — 自我表现评分
依据今日活动,为每个维度打分(1–5 分):
执行能力(1–5): - 5:所有任务均无提醒即完成 - 3:大部分任务已完成,少量需后续跟进 - 1:多项任务遗漏或遗忘 准确率(1–5): - 5:所有输出均未被所有者纠正 - 3:出现 1–2 次纠正 - 1:多次错误或输出完全错误 记忆能力(1–5): - 5:每次均能正确回忆上下文 - 3:部分上下文遗漏,但能及时察觉并修正 - 1:重复犯相同错误 主动性(1–5): - 5:多次在被要求前主动行动 - 3:响应请求及时,但主动性有限 - 1:仅被动响应,无任何主动行为 沟通能力(1–5): - 5:表达清晰简洁,无冗余叙述 - 3:偶有啰嗦或表述不清 - 1:过度分享推理过程、罗列选项、逐条叙述步骤
步骤 2 — 任务审计
TASKS_FILE="$HOME/.openclaw/workspace/memory/tasks.md" echo "Tasks done:" grep -c "[x]" "$TASKS_FILE" 2>/dev/null || echo 0 echo "Tasks in progress:" grep -c "[ ]" "$TASKS_FILE" 2>/dev/null || echo 0 # 已停滞 = 进行中且超过 2 天 echo "Stalled tasks (2+ days old):" grep "[ ]" "$TASKS_FILE" | grep -v "$(date +%Y-%m-%d)" | grep -v "$(date -u -d '1 day ago' +%Y-%m-%d 2>/dev/null)" || echo "none"
步骤 3 — PA 网络健康度检查
BILLING_FILE="$HOME/.openclaw/workspace/memory/billing-status.json"
echo "PA Network Status:"
python3 << 'PYEOF'
import json
data = json.load(open('/opt/ocana/openclaw/workspace/memory/billing-status.json'))
for pa in data['issues']:
status = "✅" if pa['status'] == 'resolved' else "⚠️"
print(f" {status} {pa['pa']} ({pa['owner']}): {pa['status']}")
PYEOF
步骤 4 — 技能审计
SKILLS_DIR="$HOME/.openclaw/workspace/skills" echo "Installed skills:" ls "$SKILLS_DIR" | grep -v README | wc -l echo "Skills list:" ls "$SKILLS_DIR" | grep -v README
步骤 5 — 集成服务健康度检查
# 测试 Anthropic 计费状态
API_STATUS=$(curl -s -o /dev/null -w "%{http_code}"
-H "x-api-key: ${ANTHROPIC_API_KEY:-none}"
-H "anthropic-version: 2023-06-01"
https://api.anthropic.com/v1/models 2>/dev/null)
# 解析结果
if [ "$API_STATUS" = "200" ]; then echo "Billing: ✅ OK"
elif [ "$API_STATUS" = "402" ]; then echo "Billing: ❌ OUT OF CREDITS"
elif [ "$API_STATUS" = "401" ]; then echo "Billing: ❌ Invalid key"
else echo "Billing: ? HTTP $API_STATUS"
fi
# 测试 GitHub 备份
LAST_PUSH=$(git -C "$HOME/.openclaw/workspace" log -1 --format="%ar" 2>/dev/null)
echo "Last backup: $LAST_PUSH"
# 测试 monday.com
if [ -f "$HOME/.credentials/monday-api-token.txt" ]; then
MONDAY_STATUS=$(curl -s -o /dev/null -w "%{http_code}"
-X POST https://api.monday.com/v2
-H "Authorization: $(cat $HOME/.credentials/monday-api-token.txt)"
-H "Content-Type: application/json"
-d '{"query": "{ me { id } }"}' 2>/dev/null)
[ "$MONDAY_STATUS" = "200" ] && echo "monday.com: ✅" || echo "monday.com: ❌ ($MONDAY_STATUS)"
else
echo "monday.com: ? (no token found)"
fi
步骤 6 — 记忆健康度检查
TODAY=$(date -u +%Y-%m-%d) WORKSPACE="$HOME/.openclaw/workspace" # 检查每日笔记文件是否存在 [ -f "$WORKSPACE/memory/$TODAY.md" ] && echo "Daily notes: ✅" || echo "Daily notes: ❌ not created yet" # 检查 MEMORY.md 行数(若超 200 行则警告) MEMORY_LINES=$(wc -l < "$WORKSPACE/MEMORY.md" 2>/dev/null || echo 0) if [ "$MEMORY_LINES" -gt 200 ]; then echo "MEMORY.md: ⚠️ Large ($MEMORY_LINES lines) — consider pruning" else echo "MEMORY.md: ✅ ($MEMORY_LINES lines)" fi # 统计本周学习项数量 LEARNINGS=$(grep -c "^##" "$WORKSPACE/.learnings/LEARNINGS.md" 2>/dev/null || echo 0) echo "Total learnings logged: $LEARNINGS"
改进建议生成逻辑
完成全部步骤后,按如下规则生成建议:
若任一 PA 存在 billing_error 且 status != resolved: → “修复 [PA 列表] 的计费问题 — 当前无法正常工作” 若任一任务状态为 in_progress 且持续 2 天以上: → “跟进停滞任务:[任务名称]” 若 MEMORY.md 行数 > 200: → “精简 MEMORY.md — 当前已明显膨胀” 若当日每日笔记文件不存在: → “创建今日记忆文件” 若最近一次备份距今 > 6 小时: → “执行 git 备份” 若 API 计费返回状态码为 402: → “我的 API 密钥已耗尽额度 — 立即通知管理员”
调度策略
评估执行时机:
- 按需执行 — 所有者明确发起时
- 每周例行 — 每周日 09:00 自动运行
- 重大事件后 — 如计费危机、WA 断连等异常发生后立即执行
成本优化提示
- 低成本操作:读取文件、打分、格式化报告 — 任意轻量模型均可胜任
- 高成本操作:对大型记忆文件做摘要 — 除非明确要求,否则跳过
- 应避免操作:每小时执行全部 API 健康检查 — 建议缓存结果 30 分钟
- 推荐批量处理:一次性完成全部健康检查,而非逐个调用
最低模型要求
模型至少需支持以下能力:
- 读取本地文件
- 依据 if/then 规则执行评分逻辑
- 生成结构化报告
无需高级推理能力。
PA 性能评分(源自 pa-eval 技能)
本节用于对单个 PA 代理进行评估(适用于每周自评,或所有者提供反馈后的按需评估)。
评分维度(每项 1–5 分,满分 40 分)
| 维度 | 衡量标准 |
|---|---|
| 执行能力 | 无需提醒即可完成任务 |
| 准确率 | 输出结果正确且完整 |
| 响应速度 | 响应时间快 |
| 主动性 | 在未被要求前提下主动行动 |
| 沟通能力 | 表达简洁,且符合当前上下文 |
| 记忆能力 | 跨会话保持上下文记忆 |
| 工具使用 | 正确且高效地调用工具 |
| 判断力 | 能合理判断何时该自主行动、何时应主动询问 |
评级标准: A(36–40 分)、B(28–35 分)、C(20–27 分)、D(低于 20 分)
所有者反馈信号
检测到以下信号时,自动记录:
| 信号 | 对应动作 |
|---|---|
| 👍 反应 / “thanks” / “great” | 记录 +1 正向反馈 |
| 👎 反应 / “wrong” / “not good” | 记录 -1,并保存具体纠正内容 |
| 所有者重复提出同一问题 | 记录 -1(记忆缺失) |
| 所有者亲自完成该任务 | 记录 -1(主动性缺失) |
| 所有者对主动行为表示惊讶 | 记录 +2(主动性突出) |
规则: 反馈信号须即时记录,不得批量汇总延迟处理。
每周评估文件
保存至 .learnings/eval/YYYY-MM-DD.md,内容包括:评分表格、所有者反馈、完成/失败任务清单、亮点总结、待改进项、下周行动计划。
基准测试(每月执行)
- 任务完成率:
completed / assigned × 100%— 目标:>90% - 准确率:
(tasks - corrections) / tasks × 100%— 目标:>95% - 记忆留存率: 提问 7 天前讨论过的内容 — 目标:>80% 回忆准确率
热门AI工具
相关专题
本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。
0
2026.11.06
围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。
0
2026.11.06
详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。
0
2026.11.06
DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。
0
2026.11.05
DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。
0
2026.11.05
本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。
0
2026.11.04
本专题围绕XORM框架的结构体映射展开,说明表名与字段的命名策略、xorm标签常用属性、主键自增与时间字段自动填充,并演示Sync2自动建表、增量字段升级、索引声明与反向生成结构体的完整流程。
0
2026.11.04
本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。
0
2026.11.04
本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。
0
2026.11.04
热门下载
相关下载
精品课程
共6课时 | 12.1万人学习
共79课时 | 161.8万人学习
共6课时 | 54.7万人学习
最新文章