当前位置:首页 > AI资讯

Inception 推出 Mercury 3 扩散语言模型,速度破千 token/秒

xinhack3周前 (10-21)AI资讯53

Inception 推出 Mercury 3 扩散语言模型,速度破千 token/秒 AI资讯

10 月 20 日,据 ai0.news、DailyAI 等媒体汇总,Inception Labs 推出 Mercury 3——一个基于扩散(diffusion)路线的语言模型,官方称其速度达到每秒 1068 个 token、支持 100 万 token 上下文,能力接近 GPT-4o-mini 档,定价为每百万 token 输入 0.10 美元、输出 0.35 美元。它是 Mercury 1 的 40 倍体量,Inception 认为这验证了“扩散大模型的缩放规律”和自回归路线是相通的。

扩散语言模型到底是什么

我们熟悉的大模型大多是一个字一个字往外蹦(自回归)。扩散模型换了一种思路:先一次性生成一团“草稿”,再并行地反复打磨、修正这一整组 token,而不是严格逐个生成。好处是并行度高,理论上吞吐可以远超逐字生成;代价是生成质量和可控性更难调。Mercury 3 把这条路推到了“可用”的量级,所以引起了关注。

“破千 token/秒”怎么理解

官方宣称 1068 token/秒,但 HN 上的真实用户反馈更接近 300 到 400 token/秒。这里要分清“纸面峰值”和“实际体感”——峰值往往在特定配置和短文本下测得,真实长任务会被各种因素拉低。即便取保守的 300+,对需要大批量生成或低延迟交互的场景,也已经很有竞争力。

为什么大家关心扩散路线

自回归模型在推理成本和延迟上已经逼近工程极限,行业一直在找“下一个范式”。扩散语言模型如果真能稳定缩放,就可能在不堆算力的前提下把吞吐再提一截。Inception 用“40 倍体量仍成立”来论证扩散的缩放规律,这比单纯发一个快模型更有信号意义——它关系到“未来大模型长什么样”。

也要看到质疑

其一,扩散路线在需要严格逐步推理、强可控生成的任务上,成熟度仍不如自回归;其二,实际速度、质量高度依赖具体实现和场景,单看峰值容易高估;其三,把它和 Gemini Diffusion 这类大厂 demo 对比时,要问一句“为什么大厂还没把它做成主打产品”。技术方向对,不等于当下就能替掉主流。

要保留的边界

第一,速度与能力数字来自厂商自报,真实表现要等独立复现;第二,扩散 LLM 在复杂推理任务上的上限仍待验证;第三,定价是否长期成立、生态是否跟得上,都还是未知数。把“路线有潜力”和“产品已成熟”分开。

一句话:Mercury 3 用破千 token/秒的速度把扩散语言模型又往前推了一步,它真正的价值不在快多少,而在验证了一条可能替代自回归的新范式是否走得通。

相关文章

Kling 4 发布说明公开:30 秒、10 个关键帧、多模态参考

Kling 4 发布说明公开:30 秒、10 个关键帧、多模态参考

10 月 18 日,Kling AI 放出 Kling 4 的发布说明与用户指南,写明视频最长 30 秒、支持 10 个关键帧与图文音多模态参考。这篇讲清它的能力边界和适合谁用。…

Mistral 发布 Timestral,把大模型塞进时间序列预测

Mistral 发布 Timestral,把大模型塞进时间序列预测

10 月 20 日,Mistral 发布 Timestral 时间序列预测模型家族,参数最小仅 500 万、最大 2.09 亿。这篇讲清它为什么值得单独做模型,以及社区对它的真实评价。…

OpenAI 收购 Orchestra Bio,AI 进生物科技深水区

OpenAI 收购 Orchestra Bio,AI 进生物科技深水区

据 SwiftInference 10 月 21 日梳理,OpenAI 已收购生物科技公司 Orchestra Bio,意在强化生命科学领域能力。本文看这笔交易为何被视为 OpenAI 从通用助手走向…

科大讯飞发布星火X2.6:端云一体,把敏感数据留在本地

科大讯飞发布星火X2.6:端云一体,把敏感数据留在本地

10月22日科大讯飞在1024开发者节发布端云一体大模型星火X2.6,云端293-A30B、端侧X2.6-4B已开源。本文拆解它如何用全国产算力,把企业用AI最头疼的「怕泄密、怕太贵」两道坎一起跨过。…

国务院发文为AI就业定调:多造岗位,也要给转型缓冲

国务院发文为AI就业定调:多造岗位,也要给转型缓冲

10月23日,国务院办公厅印发《关于适应人工智能技术发展助力构建就业友好型发展方式的意见》,部署6方面18项任务,首次系统回应AI替代焦虑,并提「失业缓冲期制度」。本文拆解它到底说了什么、对企业和打工…

意大利把欧盟AI法落地:纯自动化招聘解雇被禁止

意大利把欧盟AI法落地:纯自动化招聘解雇被禁止

10月23日,意大利《179/2026号人工智能法实施法令》正式生效,将欧盟AI Act写入本国法,明确禁止仅凭自动化处理作出雇佣、解雇等最终决定,违者最高罚3500万欧元或全球营业额7%。本文看它意…

Google ACE 给每个 AI 智能体配台专属电脑,唤醒不到半秒

Google ACE 给每个 AI 智能体配台专属电脑,唤醒不到半秒

谷歌 10 月 22 日推出智能体计算引擎 ACE,给每个 AI 智能体分配一台硬件隔离的微型虚拟机,能跑代码、调工具、操作浏览器,空闲自动挂起、来活秒级唤醒。这篇聊聊它为啥是智能体落地的基础设施。…

ChatGPT 锁定聊天来了:借手机前不怕被翻聊天记录

ChatGPT 锁定聊天来了:借手机前不怕被翻聊天记录

OpenAI 近期向全球用户推出 ChatGPT 锁定聊天功能,开启后对话移入独立区域,重开需四位 PIN 码或面容指纹。这篇聊聊它解决的真实痛点,以及它到底锁了什么、没锁什么。…