Jev的置信度是经RLCD校准的概率值,直接反映选项正确率而非语言能力;需按业务风险分层设阈值:≥0.92自动执行、0.5–0.91交大模型复核、<0.5强制人工;阈值须用真实样本验证并代码显式判断。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

Jev 不输出文字,只输出带校准概率的结构化决策(Choice/Score/Noul),因此它的置信度不是“语言流畅度”的副产品,而是直接参与业务分流的核心信号。设置阈值不能套用默认值,必须结合误判代价、人工复核成本和业务节奏来动态定义。
理解 Jev 的置信度本质
Jev 的概率经过 RLCD 训练,目标是让报告的数值贴近真实正确率。例如 p=0.95 意味着在大量同类判断中,约 95% 确实正确。但它不是绝对保证——同一模型在不同任务上校准表现可能差异明显。官方测试显示 Jev 在自建数据集上期望校准误差为 0.037,而 Sonnet 高推理档为 0.058,说明其概率更“诚实”,但不等于零误差。
关键点在于:Jev 的置信度反映的是“该选项在当前输入下被选中的可靠性”,而非“模型有多聪明”。它不生成解释,也不隐藏不确定性;低概率就是低把握,没有模糊地带。
按业务风险分层设定阈值
自动放行、转大模型复核、交人工处理,这三类动作应对应不同概率区间,且每个区间的边界需基于实际漏判/误判损失测算:
- 高确定性自动执行:建议设为 ≥0.92。例如客诉中“是否明确要求退款”(Noul 类型),p≥0.92 可直接触发退款流程。这个区间内 Jev 在测试中实现 100% 准确率(306 次全对),但仅覆盖约 98% 的样本。
- 中等把握交由大模型辅助:设为 0.5–0.91。例如工单分类(Choice 类型,售后/物流/财务),此区间模型仍有一定区分能力,但存在混淆风险。可将该部分请求转发给 LLM 做上下文重判或生成简要依据,避免直接人工介入。
- 低置信度强制人工复核:<0.5。这部分占比通常<2%,但承载了绝大多数错误案例。例如 Jev 在自身 0.2–0.3 置信区间内两次出错,均属此类。建议在此区间附加原始输入快照与 top-3 选项概率,供人工快速比对。
验证阈值是否适配你的任务
不能直接采用官方推荐值。你需要用本业务的真实样本做小规模闭环验证:
- 抽取至少 500 条历史工单/投诉/日志,用 Jev 批量打标,记录每个样本的输出概率与选项。
- 人工标注这批样本的真实标签,计算各概率分箱(如 0.9–1.0、0.8–0.9)内的实际准确率。
- 观察拐点:若 0.85–0.9 区间准确率骤降至 88%,而 0.9–1.0 仍达 99.2%,则 0.9 更适合作为自动执行门槛。
- 同步统计不同阈值下的分流比例——若设为 0.9 导致 15% 请求进人工池,超出团队承载力,则需权衡是否下调至 0.87 并加强后续质检。
在代码中落地阈值逻辑
使用 Jev 时,API 返回是结构化 JSON,含 choices 数组与对应 probability 字段。阈值判断应在业务层完成,而非依赖模型侧过滤:
示例(Python):
# 假设 response 是 Jev API 返回的 JSON
if response["choices"][0]["probability"] >= 0.9:
trigger_refund_flow(response["choices"][0]["value"])
elif response["choices"][0]["probability"] >= 0.5:
forward_to_llm_for_explanation(response)
else:
send_to_human_review_queue(response)注意:不要跳过概率字段直接取第一个选项。Jev 支持多选项并行输出,choices 按概率降序排列,但业务逻辑必须显式检查数值,否则会丢失校准价值。

















