Inception 推出 Mercury 3 扩散语言模型,速度破千 token/秒

10 月 20 日,据 ai0.news、DailyAI 等媒体汇总,Inception Labs 推出 Mercury 3——一个基于扩散(diffusion)路线的语言模型,官方称其速度达到每秒 1068 个 token、支持 100 万 token 上下文,能力接近 GPT-4o-mini 档,定价为每百万 token 输入 0.10 美元、输出 0.35 美元。它是 Mercury 1 的 40 倍体量,Inception 认为这验证了“扩散大模型的缩放规律”和自回归路线是相通的。
扩散语言模型到底是什么
我们熟悉的大模型大多是一个字一个字往外蹦(自回归)。扩散模型换了一种思路:先一次性生成一团“草稿”,再并行地反复打磨、修正这一整组 token,而不是严格逐个生成。好处是并行度高,理论上吞吐可以远超逐字生成;代价是生成质量和可控性更难调。Mercury 3 把这条路推到了“可用”的量级,所以引起了关注。
“破千 token/秒”怎么理解
官方宣称 1068 token/秒,但 HN 上的真实用户反馈更接近 300 到 400 token/秒。这里要分清“纸面峰值”和“实际体感”——峰值往往在特定配置和短文本下测得,真实长任务会被各种因素拉低。即便取保守的 300+,对需要大批量生成或低延迟交互的场景,也已经很有竞争力。
为什么大家关心扩散路线
自回归模型在推理成本和延迟上已经逼近工程极限,行业一直在找“下一个范式”。扩散语言模型如果真能稳定缩放,就可能在不堆算力的前提下把吞吐再提一截。Inception 用“40 倍体量仍成立”来论证扩散的缩放规律,这比单纯发一个快模型更有信号意义——它关系到“未来大模型长什么样”。
也要看到质疑
其一,扩散路线在需要严格逐步推理、强可控生成的任务上,成熟度仍不如自回归;其二,实际速度、质量高度依赖具体实现和场景,单看峰值容易高估;其三,把它和 Gemini Diffusion 这类大厂 demo 对比时,要问一句“为什么大厂还没把它做成主打产品”。技术方向对,不等于当下就能替掉主流。
要保留的边界
第一,速度与能力数字来自厂商自报,真实表现要等独立复现;第二,扩散 LLM 在复杂推理任务上的上限仍待验证;第三,定价是否长期成立、生态是否跟得上,都还是未知数。把“路线有潜力”和“产品已成熟”分开。
一句话:Mercury 3 用破千 token/秒的速度把扩散语言模型又往前推了一步,它真正的价值不在快多少,而在验证了一条可能替代自回归的新范式是否走得通。







