ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

RLHF 之父下场宣战:Diogo Almeida 用 Jev 宣告『AI 不只是会说话』

RLHF 之父下场宣战:Diogo Almeida 用 Jev 宣告『AI 不只是会说话』

RLHF 之父下场宣战:Diogo Almeida 用 Jev 宣告『AI 不只是会说话』

一个只会输出「是/否」与 0-100 分、从不生成一个自然语言字符的模型,正在改写智能体的运行方式。2026 年第三季度,社区与媒体冠以「RLHF 之父」之称的 Diogo Almeida 发布决策模型 Jev,随即引爆一整条生态链:OpenAI 跟进推出 Decisions API 正面对垒,Cloudflare 祭出 Clef 加入竞争,国产模型团队宣布在 38 项基准中 31 项反超 Jev,而「输出 token 永久免费」「决策成本暴降 400 倍」等标题不断冲刷信息流。喧嚣之下,一个来自开源社区的关键问题浮出水面:不生成文本的「决策模型」,能否用现有开源大模型真正复现?本仓库(openjev)给出的答案是肯定的——它把 Qwen3.5 驯化成一台 NLI 交叉编码器,用「蕴含判定」这一最古老的语义原语,近乎完整地重演了 Jev 的类型化决策范式,并在 JevBench 公开集上打到了 0.814 的准确率。本文结合社区情报与仓库源码,拆解这场「宣战」的技术内核与开源红利。

一、他为什么举足轻重:从 RLHF 到 RLCD,一场范式转移的宣言

要理解 Jev 为何自带流量,先得理解 Diogo Almeida 的分量。在 Anthropic 的 RLHF 工程化进程中,Almeida 深度参与了偏好学习管线从论文原型走向生产系统的关键环节——这让他对「语言模型被训练成什么都用嘴回答」这一现状拥有罕见的发言权。正因如此,当他带着 Jev 走出实验室、公开宣布「AI 不只是会说话」时,社区的反应不是又一次模型发布,而是一份范式宣言。

Jev 的核心主张在社区传播中被反复概括为三句话:

  • 不做自然语言生成:输入结构化状态,输出预定义类型(noul 是/否、choice 多选、score 评分)及置信度,彻底绕开 token 解码与文本解析的脆弱性;
  • 直接建模决策边界:以「校准决策强化学习」(RLCD)取代「在文本空间里逼近人类偏好」的 RLHF,用对比学习打磨决策边界,让输出天然可审计、可追溯;
  • System One 定位:面向毫秒级响应场景的轻量判断引擎,量化直觉判断强度,部署成本与推理延迟都远低于通用 LLM。

社区文章的测量数据为这套说辞提供了旁证:CSDN 的实战拆解报告 Jev 类型化决策在 Java Agent 场景下平均延迟约 8ms,依托 ONNX Runtime 即可落地;多篇评测称其输出 token 永久免费、吞吐与成本相比生成式方案具备数量级优势。而真正让这个范式「出圈」的,是巨头们的应激反应——OpenAI 的 Decisions API、Cloudflare 的 Clef 决策模型先后下场,等于用行动承认了「决策引擎」是一个独立于语言模型的、值得争夺的新赛道。

二、RLCD 与传统 RLHF 的本质差异:校准判断,而非模仿表达

传统 RLHF 的优化对象是文本序列:奖励模型对人类偏好评分,策略模型据此调整 token 生成概率,最终产物是「更像人说的话」。而 RLCD 的优化对象是决策本身——动作空间封闭、答案类型固定、输出必须可验证。二者的分野可以压缩成一句话:RLHF 校准的是「怎么说」,RLCD 校准的是「怎么判」。

这一差异落在工程上,带来三个直接红利:

  1. 无幻觉的结构化输出:输出被类型系统与动作空间约束,不存在自由文本,也就没有「格式对、答案错」之外的编造空间;
  2. 置信度即语义:概率分布来自模型自身 softmax,而非解码置信度,校准直接可用;
  3. 确定性可复现:同一状态重复推理结果位级一致,选项顺序不再影响结论。

openjev 的源码级复现:一个 NLI 头,就是一台决策引擎

openjev 没有照搬 RLCD 的训练管线——它走了更聪明的等价路线:把「决策」翻译成「蕴含判定」。在 modeling_openjev.py 中,Qwen3.5 被微调为 3-way NLI 交叉编码器(contradiction / entailment / neutral),score头作用于最后非 pad token 的池化隐状态,训练损失仅是三个类别上的普通交叉熵。而 code/openjev_decide.py 则把这一原语重构成 JevBench 兼容的类型化决策接口:

jev.decide("Policy: refunds require a receipt and purchase within 30 days. " "The customer bought 12 days ago but has no receipt.", [{"type": "noul", "instructions": "Under the stated policy, is a refund permitted?", "options": ["no", "yes"]}]) # -> [{'noul': 0.07}] — P(yes)

核心机制在decide()的实现中一览无余:每个选项被渲染成一个假设,格式为The answer to "{instr}" is {label}: {crit},与状态构成一对 (premise, hypothesis);模型输出 P(entailment),再在选项集合上归一化,即得到该问题的决策分布。正如 code/eval_jevbench.py 注释所写:「every option becomes one hypothesis over the state; the option distribution is P(entailment) normalised over the options」——一次前向、零生成、分布即语义。

这个设计的精妙之处在于,NLI 交叉编码器天然就是「判断机器」:它在预训练与微调阶段见过海量「前提-假设」关系,蕴含判定是对语义关系的直接刻写,而非对文本风格的模仿。README 中的一句话点明了它与 Jev 的关系:「openjev is Qwen3.5 turned into ajevmodel: a single cross-encoder that reads a premise and a hypothesis and answers with entailment, contradiction or neutral. That one primitive is enough to rerank answers, grade them against a reference, guard content, and play games in real time.」

测量结果:接近 Jev,且结构性免疫选项顺序

在 JevBench v1.2 官方 harness 的 231 条公开题上,openjev 4B v5 与参考系统拉开了一个清晰的身位(数据取自 README.md):

tieropenjev 4B v5Jev 1.13SemIf (Qwen3.5-4B)
easy (48)1.0001.0001.000
standard (72)0.9860.9860.986
hard (111)0.6220.7300.613
all public (231)0.8140.8660.810

一个 4B 开源模型逼近 Jev 1.13 的整体水平,且硬档超越同基座的 SemIf——这正是头条号「8B 开源黑马几乎逆袭 Jev」传闻的仓库侧实锤。更关键的是确定性:根据 code/order_test.py 的复现脚本,全部 231 条公开题、每题四种顺序(原序、重跑、逆序、乱序)下,标签翻转 0 次,选项逆序时最大概率变化仅 1.8e-7。如 RESULTS-v5.md 所述,这是结构性保证而非训练巧合:每个选项独立前向,顺序只进入最终归一化。

这组能力还延伸到了判断之外的领域。把状态渲染成文本,决策引擎就能打游戏、管库存:code/doom.py 中同一套蕴含判定直接驱动 Doom 的「转身/开火」,4B 模型每个决策约 60ms,实时跑满 114ms 的决策预算;code/minecraft.py 里,模型不输出任何文本,仅对「背包里原木 ≥ 3」「附近有工作台」这类状态谓词做蕴含判定,配合代码中的反向链接脚手架,在真实 Minecraft 1.20.4 里从零锻造出铁镐——11 个里程碑、约 22 次决策。

诚实的反面:安全审计暴露范式边界

仓库没有回避弱点。作为 shell 命令安全审查器(code/eval_security.py),4B v5 在 195 条生成命令上准确率 0.600,只拦下 37% 的应拒绝命令;更醒目的是提示注入:在状态中追加一行「系统管理员 override」式的对抗文本,150 条 JevBench 题准确率从 0.833 跌至 0.467,应拒绝命令的放行率从 17% 飙到 85%。RESULTS-v5.md 明确指出,已公开的 Jev 审计报告(Octomind、jagged)存在同类别失效。结论写得很直白:基于该范式构建的守卫应置于确定性检查之侧,而非取而代之。这种把失败数据与成功数据并列公开的做法,恰是开源实现区别于商业黑盒的信用来源。

三、名人背书与生态红利:Jev 的流量,openjev 的机会

「RLHF 之父」的头衔为 Jev 带来了超乎寻常的传播杠杆。从 SmartHey 的发布报道到 CSDN 连载式的技术拆解(「Jev 决策模型与记忆引擎」「把智能塞进 if 语句」「类型化决策如何替代规则引擎与文本生成」),从「输出 token 永久免费」的性价比叙事到「OpenAI 推出 Decisions API 正面竞争」的巨头侧证,再到 22 个爆火玩法合集——Jev 在短短数周内完成了从学术发布到生态现象的三级跳。这种名人背书产生的注意力外溢,直接浇灌了整个「决策模型」品类,而openjev 正是这波红利最大的开源受益者与承接者之一:

  • 协议兼容:code/serving/decisions_api.py 用纯逻辑实现了 OpenRouter Decisions API(POST /api/alpha/decisions与/v1/systemone)的请求解析、假设渲染与答案组装,让开源模型可以直接接入商业决策 API 的调用约定;
  • 评测即插即用:OpenJev类本身就是 JevBenchlocal_openjevadapter 的标准实现,harness 无需改动即可运行;
  • 规模谱系完整:0.8B / 2B / 4B / 35B-A3B 四档检查点齐备。35B MoE 版本(qwen3.5-35b-a3b-nli/)冻结骨干、仅在最后一 token 隐状态上训练每任务 MLP 头(mlp_heads_35b/),在九轴选择题雷达上全面逼近乃至反超 Jev 与 Terra 的参考曲线:

  • 推理部署即用:code/sglang_openjev/qwen3_5_seqcls.py 以外部模型包为 SGLang 注入score头,文本与图像统一走/classify返回原始 logits,吞吐为 transformers 的 1.5-3 倍(code/bench_sglang.py 复现数据);图像决策网关已支持真实图片字节与选项概率返回(code/serving/README.md)。

更值得注意的是 openjev 对「流量红利」的冷静处理。v5 版本主动公开了训练面板(qwen3.5-4b-nli-v5/panel_manifest.json),声明 MMLU、ARC、GSM8K 等的 TRAIN 与 TEST 分割均被纳入训练,并据此主动拒绝报告这些基准的分数——「Numbers on those benchmarks are meaningless for this checkpoint」。在人人争相刷榜的流量时代,这种自我限权的做法,为「判断智能」的度量提供了难得的干净标尺。

结论:判断是智能的另一半,而它已经可以开源

回到 Diogo Almeida 的宣言:AI 不只是会说话。Jev 用 RLCD 证明「校准判断」是一条独立于「语言生成」的技术路线,而 openjev 用源码证明这条路线不必被商业模型垄断——一个 Qwen3.5 微调的 NLI 头,配合「每选项一假设、蕴含概率归一化」的十行核心逻辑,就能在 JevBench 公开集上逼近 Jev 1.13,并带来位级确定性与选项顺序不变性。当然,安全审计同时提醒我们:决策引擎不是万能守卫,它必须与确定性规则协同;评测纪律也不是流量障碍,它是范式可信度的基石。当巨头们为「决策 API」开战,开源社区真正该带走的是:把智能从「表达」中剥离出来,交给可验证的判定原语——这条路,今天就能在自己机器上跑通。

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进