jevbooks

← 全部项目

snake-arena-jev-vs-llms

angelgalvisc/snake-arena-jev-vs-llms

Jev 对决六个 LLM:Snake 中每分钟决策数与成本。

评测与基准69%次选分类: 游戏与模拟

这是什么

一个基准测试,让 Jev(TypeSafe 的 System One 决策模型)与六个通用 LLM 在 Snake 上竞赛。每位玩家有六十秒和独立棋盘;仓库测量每分钟决策数和每分成本。

它怎么用 Jev

Jev 针对 Snake 棋盘状态回答 Choice 问题,返回选项、每个选项的概率和置信度。所选选项即为移动。仓库还用 output_shape.py 探测输出 token 如何随问题形状变化。

用到的原语:choice

值得抄的做法

在问题中固定答案空间,使输出大小恒定且无需解析。

怎么试

python race.py --seed 1 --seconds 60 --lineup jev,haiku,opus,luna,sol,kimi-fast,kimi --out race_seven.jsonl

去 GitHub 看

Jev 判的jev-1.13.0

证据

每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。

  • Jev 是主角未判定0.46
  • 有 System One 用法0.82
  • 处理了不确定性0.04
  • 有实测数据0.10
  • 可直接跑0.06
  • 值得推荐0.21
  • 是模型的复刻0.10
  • 问题普遍性按 0–2 打分0.86
  • 与 Jev 相关0.97

信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月20日 读 README 写成。