讲师中心 微信公众号

工具推荐

视频效率加速
updream

一键生成高质量推广成片

立刻MV
立刻MV

低成本歌曲 MV、视频生成

AniShort
AniShort

AI短剧协同制作平台

SoundView
SoundView

字幕擦除翻译、配音口型同步

SkillEvaluator怎么编写评估数据集

星杰小哥_3667

星杰小哥_3667

发布时间:2026-11-17 10:52:26

|

819人浏览过

|

来源于php中文网

原创

SkillEvaluator 的评估用例可以写在技能目录的 evals/evals.json。为同一个任务定义输入、预期结果和断言,再用严格验证检查结构和措辞。

先准备一个可以手算结果的技能

进入 skillevaluator 源码仓库的根目录,新建名为 word-counter 的技能文件夹,入口文件命名为 skill.md,把下面的内容存到这个文件里,之后再新建 evals 子目录。这里的词数统计规则直接按空白字符拆分文本,特意绕开标点、多语言分词的常见争议问题。

mkdir -p word-counter/evals
---
name: word-counter
description: >-
  Counts words in short text. Use when asked for a word count.
---

# Word Counter

Split the supplied text on whitespace and count the resulting words.
Return the total.

正例验收输出,负例验收任务边界

正例用刚好4个词的文本,预期成功触发词数统计技能,最终输出结果为4。负例用单位换算的请求,预期不会触发这个词数统计技能,但要给出正确的换算结果。把下面的JSON内容保存到 word-counter/evals/evals.json 路径下。

{
  "skill_name": "word-counter",
  "evals": [
    {
      "id": "word-counter-001",
      "expected_skill": "word-counter",
      "prompt": "Count the words in: red blue red green",
      "expected_output": "The text contains 4 words.",
      "assertions": [
        "Reports a total of 4 words"
      ]
    },
    {
      "id": "word-counter-002",
      "expected_skill": null,
      "prompt": "Convert 2 kilograms to grams.",
      "expected_output": "2000 grams",
      "assertions": [
        "Returns 2000 grams"
      ]
    }
  ]
}

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

官方评估数据集格式与字段说明

严格验证不过时先看什么?

回到仓库根目录运行下面的命令,校验报错先排查三点:JSON格式是否合法、技能名是否和配置一致、所有用例ID是不是唯一。如果规则提示断言和技能本身强绑定,就把“必须读SKILL.md”这类要求,改写成可以直接从输出结果核对的条件。

uv run --python 3.13 --extra tier3 skillevaluator tier3 validate ./word-counter --strict

SkillEvaluator 数据集验证的操作和输出

怎样判断这组用例够不够?

上面两条用例只能覆盖最基础的边界情况,和真实使用场景差距很大。可以再加几个没直接出现“词数统计”关键词的隐式正例,再补充连续空白字符、空字符串这类极端场景的用例,提前写清触发条件和预期输出,也留几组相同任务的用例给无技能的基线版本做对照。

如果精简安装报缺少 harbor,按上面的命令加上 Tier 3 依赖。只校验数据集时,先处理格式和断言问题,再进入需要模型和沙箱的运行环节。

相关文章

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

140

2026.11.12

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

100

2026.11.12

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

80

2026.11.12

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

160

2026.11.06

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

140

2026.11.06

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

120

2026.11.06

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

120

2026.11.05

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

100

2026.11.05

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

120

2026.11.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn