jevbooks

← 全部项目

jevcal

abhixhek/jevcal

校准、阈值和漂移检查类型化决策模型,与 LLM 教师对比。

评测与基准53%次选分类: 分类与路由便宜宽筛再窄查

这是什么

jevcal 在您的标注数据上测量类型化决策模型,为每个问题选择置信度阈值以满足您的准确率目标,报告升级流量,并在漂移时使 CI 失败。专为 Jev 和任何返回带概率答案的模型构建。

它怎么用 Jev

Jev 在您的状态上回答类型化问题(Choice、Score、Noul)。jevcal 在您的数据集上运行模型,保存预测,然后根据 top_prob、margin、entropy 或 API 自身的 confidence 等置信度度量编译阈值。锁定文件和报告显示接受准确率、处理份额、ECE 和成本拆分。

用到的原语:choicescorenoul

值得抄的做法

在一半数据上选择阈值,在另一半上验证;可选要求 95% 置信下界达到目标。

怎么试

pip install "git+https://github.com/abhixhek/jevcal" 然后 jevcal demo

去 GitHub 看

Jev 判的jev-1.13.0

证据

每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。

  • Jev 是主角未判定0.58
  • 有 System One 用法未判定0.56
  • 处理了不确定性0.89
  • 有实测数据0.96
  • 可直接跑0.67
  • 值得推荐0.61
  • 是模型的复刻0.06
  • 问题普遍性按 0–2 打分1.48
  • 与 Jev 相关0.96

信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月20日 读 README 写成。