jevbooks

← 全部项目

jevals

openlayer-ai/jevals · 项目主页

以快速、廉价的 Jev 决策实现智能体评估与护栏。

评测与基准98%次选分类: 校验与安全门问卷记分卡

这是什么

jevals 是一个用于评估和防护 AI 智能体轨迹的 Python 库。它用 Jev 风格的决策模型替代 LLM 评判器,将一条轨迹的所有评估合并为一个请求,成本仅几分钱,耗时几百毫秒。

它怎么用 Jev

Jev 针对智能体状态回答类型化问题(Choice、Score、Noul),例如工具是否正确使用或声明是否有依据。返回的校准概率被归约为分数、标签或通过/失败结果,用于代码中的离线指标、生产监控和循环内护栏。

用到的原语:choicescorenoul

值得抄的做法

将一条轨迹的所有评估打包为单个类型化问题请求,在一次前向传播中并行评估。

怎么试

pip install jevals;设置 AI_GATEWAY_API_KEY;调用 evaluate(sample, evals)。

去 GitHub 看

Jev 判的jev-1.13.0

证据

每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。

  • Jev 是主角0.66
  • 有 System One 用法0.90
  • 处理了不确定性0.25
  • 有实测数据0.28
  • 可直接跑0.88
  • 值得推荐未判定0.41
  • 是模型的复刻0.08
  • 问题普遍性按 0–2 打分1.56
  • 与 Jev 相关0.97

信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月23日 读 README 写成。