README 自动摘要
根据 README 自动整理于 2026年11月3日，不是本站运行记录。运行步骤和作者声称的效果仍需核验。
这是什么
一个土耳其语基准，包含 66 个 System One 请求格式的分类式任务，由公开土耳其语数据集构建，用于在准确率和校准上对比 Jev、Microsoft-Decision-1、开放模型和微调模型。
它怎么用 Jev
Jev 通过 TypeSafe 的 API 经 `s1bench run jev` 评估。每个任务给出文本和带字母选项的 Choice/Noul/Score 问题；答案概率取模型将选项字母作为下一个 token 的概率，Choice 和 Noul 会以反转选项再问一次并取平均。
用到的原语:choicenoulscore
值得抄的做法
将答案读作下一 token 的字母概率，反转选项后取平均，并在准确率之外报告校准（log-loss、Brier、温度拟合的 ECE）。
怎么试
`pip install -e .`、`s1bench build`、`s1bench run jev`（需要 `TYPESAFE_API_KEY`），然后 `s1bench score`。
README 片段的模型判断
项目信号使用仓库元信息、已有摘要与 README 前 700 个字符；没有通读完整项目。“未检出”仅表示这些材料中未检出，并不证明项目没有该能力。这里保留原始判断与实际记录的模型、日期，不是源码审计或运行验收。
模型与判定日期
- 收录门禁
jev-1.14.0- 项目信号
jev-1.14.0- 项目分类
jev-1.14.0- 模式标签
jev-1.14.0
证据
这些信号只读取仓库元信息、已有摘要与清理后的 README 前 700 字符。≥ 0.60 表示片段中有提及，≤ 0.40 表示未检出，中间为未判定；都不是源码审查或运行结果。「可运行工具」题排除了研究实验，「推荐」题筛的是学习案例 Top 10，不是内容质量合格与否。
- Jev 是项目的核心在材料中检出0.70
- 展示了 System One 用法片段中未检出0.21
- 写了怎么处理不确定片段中未检出0.02
- 给出了实测数字片段中未检出0.04
- 是能跑起来的工具片段中未检出0.06
- 学习案例 Top 10 候选信号片段中未检出0.18
- 是模型本身的复刻片段中未检出0.11
- 解决的问题够普遍（0–2）按 0–2 打分0.95 / 2
- 与 Jev 相关在材料中检出0.99
无判定区（0.40–0.60）
无判定区（0.40–0.60）
各阶段的 Jev 模型与判定日期见上方记录。简介由 DeepSeek V4.1 Flash 于 2026年11月3日 读 README 写成。