这是什么
一个冻结协议的基准,在四个公开英文分类数据集上比较 Jev 1.13、PrismNLI-0.4B 和 Laya,并加入有监督参考模型与标签效率研究,供从业者权衡零样本与标注数据。
它怎么用 Jev
Jev 通过 OpenRouter Decisions API 调用,只接收原始文本、一条指令和标签字符串。其返回的概率用于计算 accuracy、macro-F1 和 ECE,与其他系统对比;不做任何训练或调参。
用到的原语:choice
值得抄的做法
在推理前冻结协议,并同时报告未做拟合的原始 ECE 与 accuracy。
怎么试
运行 benchmark.py;查看 results/summary.json 和 REPORT.md。
证据
每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。
- Jev 是主角未判定0.46
- 有 System One 用法否0.16
- 处理了不确定性否0.06
- 有实测数据否0.32
- 可直接跑否0.05
- 值得推荐否0.23
- 是模型的复刻否0.05
- 问题普遍性按 0–2 打分1.48
- 与 Jev 相关是0.98
信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月20日 读 README 写成。