jevbooks

← 全部项目

tinyjev

ankit-aglawe/tinyjev · 项目主页

一次前向传播,在笔记本电脑上做出类型化决策。

分类与路由55%次选分类: 打分与排序问卷漏斗

这是什么

TinyJev 是一个 596M 参数的模型,能回答关于文本的类型化问题并返回校准概率,在 MLX 或 PyTorch 上离线运行。它面向需要在不生成文本的情况下进行分诊、筛查或路由的开发者。

它怎么用 Jev

Jev 通过对你提供的选项进行评分来做出决策。你发送状态(工单、JSON 记录或日志行)以及类型为 Choice、Score 或 Noul 的问题。它在一次前向传播中为每个选项返回概率。在代码中,你根据这些概率设定阈值来自动化或升级。

用到的原语:choicescorenoul

值得抄的做法

通过单次前向传播获得校准置信度,实现基于阈值的自动化。

怎么试

pip install 'tinyjev[mlx]' 然后 python examples/triage.py

去 GitHub 看

Jev 判的jev-1.13.0

证据

每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。

  • Jev 是主角0.97
  • 有 System One 用法0.62
  • 处理了不确定性0.88
  • 有实测数据0.11
  • 可直接跑0.88
  • 值得推荐未判定0.41
  • 是模型的复刻0.96
  • 问题普遍性按 0–2 打分1.48
  • 与 Jev 相关0.79

信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月23日 读 README 写成。