这是什么
jevcal 在您的标注数据上测量类型化决策模型,为每个问题选择置信度阈值以满足您的准确率目标,报告升级流量,并在漂移时使 CI 失败。专为 Jev 和任何返回带概率答案的模型构建。
它怎么用 Jev
Jev 在您的状态上回答类型化问题(Choice、Score、Noul)。jevcal 在您的数据集上运行模型,保存预测,然后根据 top_prob、margin、entropy 或 API 自身的 confidence 等置信度度量编译阈值。锁定文件和报告显示接受准确率、处理份额、ECE 和成本拆分。
用到的原语:choicescorenoul
值得抄的做法
在一半数据上选择阈值,在另一半上验证;可选要求 95% 置信下界达到目标。
怎么试
pip install "git+https://github.com/abhixhek/jevcal" 然后 jevcal demo
证据
每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。
- Jev 是主角未判定0.58
- 有 System One 用法未判定0.56
- 处理了不确定性是0.89
- 有实测数据是0.96
- 可直接跑是0.67
- 值得推荐是0.61
- 是模型的复刻否0.06
- 问题普遍性按 0–2 打分1.48
- 与 Jev 相关是0.96
信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月20日 读 README 写成。