jevbooks

← 全部项目

mini-jev

r-ms/mini-jev

在冻结的 Qwen3-4B 上读取选项字母的 logits,而非生成 JSON。

评测与基准63%次选分类: 校准与研究

这是什么

一个预注册实验与教学演示,测量冻结的 Qwen3-4B 能否通过读取下一 token 的 logits 来回答 schema 中的封闭选项字段,而非生成受语法约束的 JSON。任务:CLINC150 意图分类。

它怎么用 Jev

每个封闭选项字段变成一个带字母的多选题;一次前向传播在答案位置读取模型对选项字母的分数。选项不生成任何 token。字符串和数字仍在语法约束下生成。结果与 JSON 生成对比。

用到的原语:choicenoul

值得抄的做法

给模型一个单 token 标识符(一个字母)来作答,然后读取 logits 而非解码。

怎么试

uv sync;MINIJEV_DEVICE=mps uv run python demo/server.py(或 cuda),然后打开 http://127.0.0.1:8765/。

去 GitHub 看

Jev 判的jev-1.13.0

证据

每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。

  • Jev 是主角0.81
  • 有 System One 用法未判定0.41
  • 处理了不确定性0.07
  • 有实测数据0.18
  • 可直接跑0.12
  • 值得推荐0.22
  • 是模型的复刻0.93
  • 问题普遍性按 0–2 打分0.74
  • 与 Jev 相关0.97

信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月20日 读 README 写成。