jevbooks

← 全部项目

open-jev

daseinlabs/open-jev · 项目主页

在 Apple 芯片上通过 MLX 使用本地 Gemma 3 4B 进行单次选项评分。

打分与排序92%次选分类: Agent 决策

这是什么

openjev 使用本地 Gemma 3 4B 模型,在 Apple 芯片上通过 MLX 根据上下文对预写选项进行评分。它提供 CLI、HTTP 服务器以及兼容 TypeSafe System One 的端点,用于对选项进行排序。

它怎么用 Jev

Jev 做出 choice、score 和 noul 决策。对于每个问题,状态、指令和选项被渲染为提示;选项名称、级别编号或 yes/no 作为续写在一个前缀共享的批处理中评分。得到的概率在答案字段中返回。

用到的原语:choicescorenoul

值得抄的做法

在候选续写之间共享一次预填充,以在单个填充的前向传递中对所有选项进行评分。

怎么试

make setup && make serve,然后 curl localhost:8000/score 或 /v1/systemone。

去 GitHub 看

Jev 判的jev-1.13.0

证据

每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。

  • Jev 是主角0.79
  • 有 System One 用法0.29
  • 处理了不确定性0.05
  • 有实测数据0.08
  • 可直接跑0.79
  • 值得推荐未判定0.47
  • 是模型的复刻0.96
  • 问题普遍性按 0–2 打分1.02
  • 与 Jev 相关0.95

信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月20日 读 README 写成。