jevbooks

← 全部项目

jev-vs-open-decision-models

elcronos/jev-vs-open-decision-models

零样本基准:Jev 对比开放决策模型的分类评测。

评测与基准49%次选分类: 分类与路由

这是什么

一个冻结协议的基准,在四个公开英文分类数据集上比较 Jev 1.13、PrismNLI-0.4B 和 Laya,并加入有监督参考模型与标签效率研究,供从业者权衡零样本与标注数据。

它怎么用 Jev

Jev 通过 OpenRouter Decisions API 调用,只接收原始文本、一条指令和标签字符串。其返回的概率用于计算 accuracy、macro-F1 和 ECE,与其他系统对比;不做任何训练或调参。

用到的原语:choice

值得抄的做法

在推理前冻结协议,并同时报告未做拟合的原始 ECE 与 accuracy。

怎么试

运行 benchmark.py;查看 results/summary.json 和 REPORT.md。

去 GitHub 看

Jev 判的jev-1.13.0

证据

每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。

  • Jev 是主角未判定0.46
  • 有 System One 用法0.16
  • 处理了不确定性0.06
  • 有实测数据0.32
  • 可直接跑0.05
  • 值得推荐0.23
  • 是模型的复刻0.05
  • 问题普遍性按 0–2 打分1.48
  • 与 Jev 相关0.98

信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月20日 读 README 写成。