jevbooks

← 全部项目

vision-jev

reinhard-z/vision-jev · 项目主页

追踪一张拖入图片如何经过 Florence-2、三个 Jev Choice 问题和游戏行为,并核对超时、置信度与测量边界。

游戏与模拟0.78次选分类: Agent 决策问卷

源码导读

Vision-Jev 源码导读:图像描述、动作判断与失败出口

这个项目把职责分得很具体:浏览器生成描述,Jev 选择类型化标签,游戏代码执行速度和计时。本导读沿固定提交追踪这条边界,不是在测试 Jev 直接接收图片的能力。

源码核验 未完成完整项目实跑固定源码 d559c108

1. 跟着一张图片走到动作

拖动图片时,Pipeline.prefetch 就开始生成描述;描述按图片 URL 缓存,失败项会删除。perceive 把位图交给浏览器 worker,后者串行处理描述,并加载固定 revision e88a44ea 的 Florence-2-base-ft,以 384 × 384 像素运行 CAPTION 任务。WebGPU 加载模型失败会退到 Wasm;之后的预热或描述失败则上报错误。

放下图片后,Pipeline 向 /api/decide 发送 {caption, zone}。服务端将它们改写成 object_seen 和位置句子,一次 Jev 调用询问 action(7 个标签)、category(10 个)、speed_limit(5 个)。例如,“一个人”的描述加 own_lane,让 Jev 判断本车道情境;停车、变速如何执行,则由游戏代码负责。

2. 输入校验与失败回退解决不同问题

Worker 要求有效会话,将请求体限制为 8 KiB,只接受 caption 与四种 zone 之一。描述最多 300 字符,会被压成单行;多余字段会被拒绝。Jev 适配器检查答案标签是否合法、confidence 是否在 [0,1];每个标签缺失或非法的概率被置零,但没有检查概率和是否为一、choice 是否为概率最大项。

描述或请求失败会进入确定性回退:本车道 stop,对向车道 slow_down,两侧人行道 continue。合法但低置信度的答案仍按选中动作执行,resolveBehavior 没有置信度阈值。change_speed 配 speed_limit=none 时保持速度。因此,类型校验能拦住未知动作标签,不能使错误描述或错误动作变安全。

3. 取消请求与耗时要分开看

同一物体的新判断会中止旧请求;引擎在应用答案前还会检查 requestSeq,避免移动物体后旧答案覆盖新状态。这个序号检查不能证明浏览器取消请求时,服务端也停止了处理或不再计费。

每次 /api/decide 尝试都在会话验证完成后获得 10 秒超时;遇到 401 会刷新一次会话并重试,因此它不是端到端最多 10 秒。visionMs 只计描述执行,不含排队和模型加载;latencyMs 计 ai.run;浏览器 roundTripMs 包含验证和重试。测总反应时间时,需要明确把哪些阶段纳入。

4. 作者的 151/156 测量了什么

README 报告,156 个有评分标准的“描述+位置”案例中,151 个动作符合可接受答案;另四个没有参考答案的探索案例未计分。同一批案例也用于调策略。这是调参集内的策略一致度,不是留出图片测试或端到端驾驶安全成绩。

代码通过 Cloudflare AI 调用 typesafe/jev。Worker 记录 result.model、Jev 耗时和输入 token,但浏览器响应没有返回模型来源;上游没给 model 时,适配器会把别名本身记作模型名。复现时应记录实际返回的模型(若可得)、视觉模型 revision、策略提交、设备/后端和分阶段耗时,不能仅凭别名归因到某版 Jev。

把这条边界用于自己的原型

让感知、语义选择和执行分别可观察。第一步可用已知描述验证策略,再注入请求错误,最后返回一个合法但低置信度的动作:三者走的路径不同。请求未完成时移动物体,应另测旧响应是否被丢弃。

2026-11-02 核对 README;2026-11-03 在同一提交补充源码导读。包声明 Node ≥22.18、pnpm 11.0.3、Transformers.js 4.3.0。本站已读源码,未运行浏览器/WebGPU/Cloudflare 完整链路,也未复现作者测量;这里讨论的是游戏原型的设计。

README 自动摘要

根据 README 自动整理于 2026年9月27日,不是本站运行记录。上方编辑说明另行核对来源;旧摘要可能遗漏限制,请以导读标注的证据范围理解。

这是什么

一个浏览器游戏,你可以将行人、障碍物或交通标志的图片拖到道路上。Florence-2 为每张图片生成描述,Jev 决定驾驶动作。适合探索 Jev 实时分类能力的人。

它怎么用 Jev

Jev 接收描述和物体所在车道或人行道的位置。它回答三个 Choice 问题:动作(如 stop、slow_down、wait_for_green、change_speed)、类别和限速。游戏直接使用 Jev 的动作,没有规则表覆盖。

用到的原语:choice

值得抄的做法

在浏览器中用视觉模型为图片生成描述,然后仅将描述和位置发送给 Jev,实现快速实时决策。

怎么试

在支持 WebGPU 的浏览器中打开 drive.mrza.ch,或设置后本地运行 pnpm dev。

去 GitHub 看

开始使用 Jev:API key 与第一个请求 →

README 片段的模型判断

项目信号使用仓库元信息、已有摘要与 README 前 700 个字符;没有通读完整项目。“未检出”仅表示这些材料中未检出,并不证明项目没有该能力。这里保留原始判断与实际记录的模型、日期,不是源码审计或运行验收。

模型与判定日期

收录门禁
jev-1.13.0
项目信号
jev-1.13.0
项目分类
jev-1.13.0
模式标签
jev-1.13.0

证据

这些信号只读取仓库元信息、已有摘要与清理后的 README 前 700 字符。≥ 0.60 表示片段中有提及,≤ 0.40 表示未检出,中间为未判定;都不是源码审查或运行结果。「可运行工具」题排除了研究实验,「推荐」题筛的是学习案例 Top 10,不是内容质量合格与否。

  • Jev 是项目的核心在材料中检出0.95
  • 展示了 System One 用法在材料中检出0.93
  • 写了怎么处理不确定片段中未检出0.04
  • 给出了实测数字在材料中检出0.93
  • 是能跑起来的工具在材料中检出0.74
  • 学习案例 Top 10 候选信号未判定0.50
  • 是模型本身的复刻片段中未检出0.03
  • 解决的问题够普遍(0–2)按 0–2 打分0.00 / 2
  • 与 Jev 相关在材料中检出0.99
信号
Jev 是项目的核心0.95展示了 System One 用法0.93写了怎么处理不确定0.04给出了实测数字0.93是能跑起来的工具0.74学习案例 Top 10 候选信号0.50是模型本身的复刻0.0300.51解决的问题够普遍(0–2)0.00 / 2012

无判定区(0.40–0.60)

设计模式
问卷0.73常开常闭0.62取景框0.58体检0.47黑匣子0.27预问0.2200.51

无判定区(0.40–0.60)

各阶段的 Jev 模型与判定日期见上方记录。简介由 DeepSeek V4.1 Flash 于 2026年9月27日 读 README 写成。