jevbooks

← 全部项目

LLM2Jev

Yinsongxu/LLM2Jev

将本地 LLM 转为 Jev 风格的结构化决策模型。

基础设施 / SDK / 集成27%次选分类: Agent 决策

这是什么

一个 Apache 许可的 Python 工具包,将本地文本和视觉语言模型转为 Jev 风格的结构化决策模型,通过 Python API 或 HTTP 服务返回 Choice、Score 和 Noul 答案,面向开发者。

它怎么用 Jev

它在 prefill 阶段读取因果模型的 logits,针对给定 state 和 instructions 计算 Choice、Score 和 Noul 问题的概率,无需逐 token 解码即可组装结果。结果通过 Python API 或 System One 形状的 HTTP 端点以结构化 JSON 返回。

用到的原语:choicescorenoul

值得抄的做法

仅 prefill 评分:在 prefill 阶段从 logits 计算概率并直接组装结果,避免逐 token 解码。

怎么试

git clone,uv sync --extra sglang,然后 python examples/sglang_inference.py --model-path /path/to/model

去 GitHub 看

Jev 判的jev-1.13.0

证据

每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。

  • Jev 是主角0.91
  • 有 System One 用法未判定0.42
  • 处理了不确定性0.05
  • 有实测数据0.15
  • 可直接跑0.92
  • 值得推荐0.23
  • 是模型的复刻0.92
  • 问题普遍性按 0–2 打分0.93
  • 与 Jev 相关0.93

信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月23日 读 README 写成。