讲师中心 微信公众号

工具推荐

视频效率加速
updream

一键生成高质量推广成片

立刻MV
立刻MV

低成本歌曲 MV、视频生成

AniShort
AniShort

AI短剧协同制作平台

剧云
剧云

中文短剧剧本制作平台

Python LLM 评估的 DeepEval / RAGAS 框架

星伟同学_7781

星伟同学_7781

发布时间:2026-02-20 17:51:09

|

271人浏览过

|

来源于php中文网

原创

DeepEval报错ValidationError因缺少expected_output,RAG评估应改用Ragas;context_recall为0因未提供ground_truth_contexts;DeepEval与Ragas的retrieval_context格式不兼容,需统一处理。

python llm 评估的 deepeval / ragas 框架

DeepEval 报错 ValidationError 说 missing expected_output

DeepEval 默认走“有标准答案”的评估路径,如果你在测 RAG 场景(比如问答、摘要),没给 expected_output 就直接跑 AnswerRelevancyMetric 或 FaithfulnessMetric,它会立刻抛 ValidationError —— 不是因为你写错了,而是它根本没设计成支持“无参考答案”的评估模式。

实操建议:

立即学习“Python免费学习笔记(深入)”;

python-testing-patterns
python-testing-patterns

使用 pytest、fixtures、mock 和测试驱动开发实现全面的测试策略。用于编写 Python 测试、搭建测试套件或实施测试最佳实践。

下载
  • 对 RAG 输出做无参考评估(比如只看是否忠实于上下文),改用 Ragas 的 faithfulness 或 answer_relevance,它们天然接受空 expected_output
  • 非要用 DeepEval?得伪造一个 expected_output,哪怕填 "N/A" 或空字符串,再配合 ignore_errors=True 参数绕过校验(但注意:部分指标如 AnswerCorrectnessMetric 仍会失效)
  • 检查你传入的 test_case 是不是用了 LLMTestCase 而不是 LLMTestCase 的子类(比如 RAGTestCase)——后者才支持 retrieval_context 字段,前者硬塞会静默丢数据

Ragas 的 context_recall 总是返回 0.0

context_recall 是唯一需要人工标注“哪些上下文片段真正支撑了答案”的指标,不是模型自己能猜出来的。如果你没提供 ground_truth_contexts(即标注好的、真正被用到的 chunk 列表),它就默认找不到依据,统一判 0.0。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • ground_truth_contexts 必须是字符串列表,每个元素对应一个原始 chunk 的完整文本,不能是 ID、索引或摘要
  • 确保这些 chunk 和你实际喂给 LLM 的 retrieval_context 内容完全一致(包括换行、标点、空格);差一个句号都可能匹配失败
  • 如果人工标注成本高,先别用 context_recall,改用 context_precision(它只看你检索出的 chunk 里有多少真被用了,不需要 ground truth)

DeepEval 和 Ragas 混着用时,retrieval_context 格式不兼容

DeepEval 的 LLMTestCase 要求 retrieval_context 是字符串列表,而 Ragas 的 SingleTurnSample 接受字符串或字符串列表——但当你把 DeepEval 的 list 直接塞进 Ragas,某些指标(比如 context_relevancy)内部会把它当单个长字符串切分,导致误判。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 统一用字符串拼接: "\n\n".join(retrieval_context_list) 再传给 Ragas,避免它误触发 list 处理逻辑
  • DeepEval 中若要保留 chunk 边界信息,别用 retrieval_context 字段,改存到自定义字段如 metadata["chunks"],后续单独处理
  • 两个框架都调用 LLM 打分时,注意它们默认用的模型不同:DeepEval 走 gpt-4(可配),Ragas 默认用 gpt-3.5-turbo,混用前先对齐 base model,否则分数不可比

本地跑 Ragas 指标卡在 embeddings 步骤

Ragas 默认启用 HuggingFaceEmbeddings(基于 sentence-transformers/all-MiniLM-L6-v2),首次运行会自动下载 400MB 模型。如果网络受限或没设缓存路径,它会在 transformers 的默认目录下卡住,且不报错,只干等。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 手动下载模型:去 HF 页面 下 pytorch_model.bin + config.json + tokenizer.json,解压到本地路径如 /models/minilm,再初始化时指定:HuggingFaceEmbeddings(model_name="/models/minilm")
  • 临时关 embedding:用 RagasEvaluator(..., embeddings=None),跳过所有需向量的指标(context_relevancy, answer_similarity 等),先验证 pipeline 其他环节
  • 别用 ragas.evaluate() 一键全跑——它默认开全部指标,包括最耗 embedding 的几个;按需传 metrics=[faithfulness, answer_relevance]
RAG 评估真正的麻烦不在装包或写 metric 名,而在数据格式的隐式约定和标注成本。哪个字段该是 list、哪个必须是 string、哪个空值能忍哪个空值直接崩——这些细节不试三次根本记不住。

热门AI工具

更多
函子Zion

一款支持AI搭建、可视化编辑和多端发布的全栈无代码开发平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2335

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

3822

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

1256

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

4439

2025.09.10

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

7459

2023.08.02

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

7459

2023.08.02

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1918

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

3164

2023.09.04

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

0

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn