rev

这是什么

rev 是一个基于因果语言模型骨干（Qwen/Qwen2.5-0.5B 到 8B）的决策模型，使用 LoRA 适配器和双线性指针读出头。它读取一次文档，并在单次预填充前向传播中并行评估多个类型化问题，零自回归文本生成。权重可在 Hugging Face Hub 上获取。

它怎么用 Jev

rev 实现了 TypeSafe System One API（POST /v1/systemone），并与官方 typesafe-sdk 兼容。它接收一个状态和类型化问题（choice、noul、score），返回校准概率。模型使用指针头对选项评分，并通过 softmax 生成类型化答案和置信度分数。

用到的原语:choicenoulscore

值得抄的做法

使用块因果掩码和分支位置 ID 打包状态和问题分支，实现精确隔离和顺序不变性。

怎么试

pip install -e . 然后 python -m rev.serve --run jaswanthsanjay88/rev-0.5b --port 8000

去 GitHub 看