jevbooks

← 全部项目

chakuho

taku-me/chakuho

基于本地 LLM 的 Jev 兼容 System One 判定端点。

Agent 决策90%次选分类: 基础设施 / SDK / 集成一个 state 多题平铺

这是什么

chakuho 是一个 Python HTTP 服务,针对给定 state 回答带类型的判定问题(choice、noul/boolean、score),返回概率分布而非生成的文本。面向希望用已常驻的本地 instruct 模型获得 Jev 式 System One 判定的开发者。

它怎么用 Jev

它用本地模型代用 Jev 的 System One model,而非调用 Jev 本身。调用方声明问题的 type、instructions 与 criteria;chakuho 给选项分配 A-Z/a-z 标签,以 max_tokens=1、temperature=0、logprobs 向 OpenAI 兼容 backend 发一次请求,把 top logprobs 聚合到声明的标签上,返回 choice/noul/score 及 probabilities 与 coverage。

用到的原语:choicenoulscore

值得抄的做法

读取通用 instruct 模型的下一 token logprob 分布,并聚合到调用方声明的选项标签上,从而不生成任何文本。

怎么试

uv sync;uv run chakuho serve --host 0.0.0.0 --port 9750;curl localhost:9750/health

去 GitHub 看

Jev 判的jev-1.13.0

证据

每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。

  • Jev 是主角0.89
  • 有 System One 用法未判定0.42
  • 处理了不确定性0.05
  • 有实测数据0.06
  • 可直接跑0.98
  • 值得推荐0.29
  • 是模型的复刻0.89
  • 问题普遍性按 0–2 打分1.01
  • 与 Jev 相关0.97

信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月20日 读 README 写成。