ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

不用一个 token 一个 token 写了:扩散大模型 Mercury 3 发布,官方喊出 1068 tokens/s

不用一个 token 一个 token 写了:扩散大模型 Mercury 3 发布,官方喊出 1068 tokens/s

💡一句话总结:Inception Labs 发布迄今最强的扩散式大模型 Mercury 3——比初代大 40 倍、1M 上下文、官方口径 1068 tokens/s,基准成绩对标 GPT-6 Luna 和 Claude Haiku 5.5(自报),上线五折 $0.10/M 输入、$0.35/M 输出。「扩散式文本生成能不能规模化」这个两年悬问第一次拿到商业级答案;但第三方实测速度和官方口径差了近 4 倍,这笔账还得自己算。

导语:你打字的这个字,模型是「喷」出来的还是「写」出来的?

先问一个平时写代码很少想的问题:大模型回复你的时候,那一个一个往外蹦的 token,是怎么来的?

答案是「一个接一个」:预测下一个 token,拼上,再预测下一个。500 个 token 的回答,就是把模型跑 500 遍。这叫自回归(autoregressive)——GPT、Claude、Gemini、DeepSeek,你现在用得到的几乎所有大模型都是这个路线。

而扩散(diffusion)路线完全相反:先「喷」出一整段粗糙的草稿,再像修照片一样来回精修,把所有 token 并行地雕出来。理论上它天生就该快——但两年前 Inception Labs 发布首个商业扩散模型 Mercury 的时候,圈内的问题恰恰是:这东西能做大吗?扩散模型在画图上已经封神,在写字上始终差一口气。

10 月 19 日,Inception 给出了迄今最硬的一次回答:Mercury 3。

想动手试的,链接先放上:

🔗 官方博客:Diffusion at Scale: Introducing Mercury 3 🔗 在线体验:chat.inceptionlabs.ai(API 送 1 亿免费 token) 🔗 OpenRouter:inception/mercury-3 🔗 HN 讨论帖(创始人在答疑):Mercury 3: Diffusion at scale

Mercury 3 是个什么水平?

先把官方口径的硬指标摆出来,注意这些都是官方自报:

  • 速度:1,068 tokens/s(NVIDIA GPU),官方称比 GPT-6 Luna 和 Claude Haiku 5.5 快 4–8 倍;
  • 规模:比 Mercury 1 大 40 倍以上,「智能」提升 3 倍——官方想说的重点是:自回归那套「堆参数涨智能」的 scaling law,在扩散上也成立;
  • 上下文:1M token,直接从上一代 2.5 的 260K 拉了 4 倍;
  • 质量:一系列基准上「追平或超过」GPT-6 Luna 与 Claude Haiku 5.5(限定 matched reasoning effort 口径);
  • 价格:标准价 $0.20/M 输入、$0.70/M 输出,上线五折 $0.10/$0.35,缓存输入再打 1 折;
  • 接入:OpenAI API 兼容,OpenAI 兼容 SDK 零改造成本;OpenRouter、Baseten、Vercel 同步上架。

翻译成人话:它不对标 Opus、Fable 那个级别的「智力旗舰」,而是卡位「速度优化档」——就是那些给 agent、语音助手、实时搜索打工的高速模型。创始人 Volodymyr Kuleshov 在 HN 的答疑里也很坦诚:DeepSWE 跑分 46%,确实低于 Haiku 的 52%;「它还替代不了 Opus 或 Fable 当主力,但日常使用是 Haiku/Luna 水平」。

这个自我定位值得点个赞——2025 年初那会儿「10 倍速度吊打一切」的话术收敛成了「同档更快」,宣传终于长出了牙齿的形状。

谁在用它?四个真实场景

官方博客给了四个早期客户案例,全是「延迟敏感型」场景,和它的产品定位严丝合缝:

  • 浏览器 agent(TinyFish AI):agent 每一步都在等模型,延迟复利式累加。官方口径:50 个真实 Mind2Web 网页导航任务完成 50 个中的 50%,高于 GPT-6.1-Sol,且 token 消耗和步数相同;
  • 实时教育(RevisionDojo):提示、批改、定义查询回到「一秒内」,学生卡题时不掉线;
  • 智能眼镜搜索(Octen AI):眼镜上 5 秒的等待等于「坏了」。实测生成中位 0.9 秒、端到端 2.2 秒;
  • 受监管行业客服(Lorikeet):延迟更低的同时,评测与生产表现还更高(早期测试口径)。

当然,这些全是官方博客选择性引述的合作方证言——听听方向,别全信数字。

真正的争议:1068 tok/s 是「实验室速度」还是「你的速度」?

发布当天,HN 帖子里最有价值的讨论不是跑分,是速度口径。

第三方 explainx.ai 把官方数字和 OpenRouter 平台侧的实测摆在一起:官方 1,068 tok/s,OpenRouter 实测中位约 254 tok/s——差了将近 4 倍。alphasignal 也提醒:tok/s 高不等于「首个可用文本」来得快,扩散模型常用块扩散(block diffusion,从左到右按块生成、块内扩散),首响特性跟自回归不是一回事。

差在哪?没人能给裁决,因为官方没公布测量条件(GPU 型号、批量、序列长度、是否流式,统统没有)。合理的猜测是:官方数字来自自家 Blackwell 环境的峰值或理想工况,OpenRouter 是聚合路由下的用户侧中位——两边都可能「没说谎」,但两边的「速度」不是一个东西。另外两件事也值得知道:权重不开放(HN 上被问是否开源,创始人的回答是干脆的「Not at the moment」),架构论文也没有,连参数量都只有「初代的 40 倍以上」这一句。

所以对开发者的实操建议很朴素:价格、1M 上下文、OpenAI 兼容接入这三样是确定的;速度,拿你自己的负载测一遍再说——反正 API 送 1 亿 token,试错成本约等于零。

为什么这件事值得认真对待

抛开这次的营销热度,我认为这条新闻的分量在三个地方:

  • 扩散路线第一次拿到「规模化」证据。两年前大家质疑的是「扩散写不了长文、做不了大模型」,Mercury 3 直接把参数推大 40 倍对标旗舰速度档,还给出了 scaling law 成立的叙事。若第三方基准后续确认,扩散就从「差异化备选」升级成「主流选项之一」;
  • 推理经济学的新变量。agent 时代延迟是复利成本,浏览器 agent、语音、实时搜索这些场景对速度的渴求远超对智力的边际追求。Mercury 3 的五折价 + 缓存 1 折 + 1M 上下文,明显是要把「长上下文 agent 工作流」的账单打下来;
  • 不开权重是个信号。对比最近扎堆开源的 DeepSeek、Muse Spark Open,扩散路线至今没有开源标杆——Inception 的护城河押在服务化工程上。扩散 vs 自回归的竞争,短期内会以「闭源 API vs 开源生态」的形态展开,这本身就是个有意思的行业分化。

冷静一下:哪些别急着信

照例把待核实清单列出来:1068 tok/s 的测量环境未公布;「超过 Luna/Haiku」的完整基准表未公布(OpenRouter 只引了 IFBench、GPQA Diamond、SWE-Bench Atlas 三项);参数量级成谜;权重与架构论文皆无;四家客户证言全部来自官方博客引述。这些缺口官方都承诺「后续以技术报告形式补」,在那之前,把所有数字当「官方口径」而非「事实」来引用,比较稳。

最后开个脑洞:如果扩散路线真的站住了,「大模型」这三个字背后的默认架构假设就要松动了——就像当年 transformer 取代 RNN 之前,也没人相信「注意力就是一切」。现在的 Mercury 3 未必是最终答案,但它至少证明:写 token 这件事,不一定非得一个一个来。

参考来源

  • Inception 官方博客:Diffusion at Scale: Introducing Mercury 3(2026-10-19)
  • Business Wire:Inception Launches Mercury 3, Setting a New Pareto Frontier in Speed and Intelligence(2026-10-19)
  • HN:Mercury 3: Diffusion at scale(含创始人答疑)(2026-10-19,214 分 / 84 评论)
  • OpenRouter:inception/mercury-3 模型页与定价
  • explainx.ai:Mercury 3 Diffusion LLM: 1,068 tok/s Claimed vs Measured
  • Curiosity:What a diffusion LLM is, and what Mercury 3 is like to run in a workspace
  • Interesting Engineering:New Mercury 3 model claims 8-fold speed edge over GPT-6 rivals(2026-10-19)

注:本文速度与跑分数字均为官方或平台侧口径,已在文中标注差异;未经第三方复现的部分请自行斟酌。

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进