jevbooks

← 全部项目

jev-sec-bench

Gaurav-Gosain/jev-sec-bench

针对 Jev 的盲测安全基准:提示注入与漏洞代码。

评测与基准99%次选分类: 校验与安全门问卷信号灯体检

这是什么

一个 Go 基准测试套件,在两组公开语料上评估 TypeSafe 的 System One 模型 Jev:662 条提示注入消息和 200 对匹配的漏洞代码。它报告分类指标、校准和标签审计,并带有 TUI 仪表盘。

它怎么用 Jev

Jev 在每个样本的一次请求中回答一个是/否注入问题和一个严重性 Score,并将部署上下文作为状态传入。返回的概率在 0.50 处阈值化以得到报告指标;README 建议使用 0.70/0.35 切分的分级策略。

用到的原语:choicescore

值得抄的做法

将部署上下文作为状态传入,使同一模型在固定阈值下区分流量。

怎么试

export TYPESAFE_API_KEY=...; go run ./cmd/jev-sec-bench -bench all

去 GitHub 看

Jev 判的jev-1.13.0

证据

每一行都是就 README 问 Jev 的一道题。≥ 0.60 算「是」,≤ 0.40 算「否」,中间这一段 Jev 不下判断。

  • Jev 是主角0.92
  • 有 System One 用法0.18
  • 处理了不确定性0.64
  • 有实测数据0.28
  • 可直接跑0.19
  • 值得推荐未判定0.47
  • 是模型的复刻0.04
  • 问题普遍性按 0–2 打分1.62
  • 与 Jev 相关0.98

信号由 Jev jev-1.13.0 判定,简介由 DeepSeek V4.1 Flash 于 2026年9月21日 读 README 写成。