这是什么
一个预注册实验与教学演示,测量冻结的 Qwen3-4B 能否通过读取下一 token 的 logits 来回答 schema 中的封闭选项字段,而非生成受语法约束的 JSON。任务:CLINC150 意图分类。
它怎么用 Jev
每个封闭选项字段变成一个带字母的多选题;一次前向传播在答案位置读取模型对选项字母的分数。选项不生成任何 token。字符串和数字仍在语法约束下生成。结果与 JSON 生成对比。
用到的原语:choicenoul
值得抄的做法
给模型一个单 token 标识符(一个字母)来作答,然后读取 logits 而非解码。
怎么试
uv sync;MINIJEV_DEVICE=mps uv run python demo/server.py(或 cuda),然后打开 http://127.0.0.1:8765/。
证据
每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。
- Jev 是主角是0.81
- 有 System One 用法未判定0.41
- 处理了不确定性否0.07
- 有实测数据否0.18
- 可直接跑否0.12
- 值得推荐否0.22
- 是模型的复刻是0.93
- 问题普遍性按 0–2 打分0.74
- 与 Jev 相关是0.97
信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月20日 读 README 写成。