当前位置:首页 > AI资讯

Anthropic 让 Claude 自研芯片股价跌

xinhack5天前AI资讯16

Anthropic 让 Claude 自研芯片股价跌 AI资讯

零知识证明:给答案发张防伪身份证

据 TechCrunch、机器之心和腾讯研究院 11 月 3 日、11 月 5 日报道,Anthropic 开源了一个叫 FlashProve 的可证明推理系统,干的活儿挺巧:为模型输出生成一份密码学证明,从数学上保证「这段回答确实出自你承诺的那个模型」。打个比方,这就像给每封邮件加 DKIM 签名——哪怕运营模型的实验室自己,也没法偷偷把贵模型换成便宜模型来糊弄你。模型身份这事儿,第一次有了可验证的凭证。咱干安全的老炮儿一眼就看出门道:防的是「以次充好」这种最阴的套路。

防的是偷梁换柱,不是证内容对错

aidigest 的梳理点得很透:这套系统的价值在「防供应链造假」。云服务或者 API 厂商,理论上为了省成本,可能在后台把承诺的贵模型悄悄换成便宜货,用户根本察觉不到。FlashProve 要治的就是这个——你拿到回答的同时拿到一份证明,能验证它确实来自那个指定模型。不过咱得说清:它只证明「来源」,不证明「回答对不对」。防的是以次充好,不是替模型担保正确性。这区分很重要,别一听「可证明」就以为答案也保真了。

实测:H100 约 110 Token/s,每份证明 18.78MB

披露的数据挺具体:在 4000 亿参数的 MoE 模型 Llama 4 Maverick 上,单张 H100 的证明吞吐大约 110 Token/s,每份证明约 18.78MB,CPU 验证约 17 秒。代价也不小——证明耗的 GPU 时间约为 vLLM 推理的 70 到 95 倍。而且目前只支持 1024 Token 上下文、整数模型和贪婪解码。咱干性能的都清楚,这开销现阶段偏高,离「每个回答都附证明」还远,但作为审计选项已经够用了。等硬件更便宜、算法再优化,成本这道坎迟早能迈过去。

溯源这股风,国内外一起刮

FlashProve 不是孤例,可验证、可溯源这股风,国内外正一块儿刮。欧盟 AI Act 第 50 条把透明度要求立成了法规,国内的《AI 生成合成内容标识办法》也已施行,连 xAI 都预告给 Grok API 加隐形水印。趋势只剩一句大白话:不做溯源的模型,以后进不了合规市场。对内容创作者来说,生成物料时留好「隐形签名」,比堆炫技更耐打。Anthropic 这步是把「模型身份可验」这件大事,从口号推进到了能跑的代码,方向跟整个监管节奏是合拍的。

老炮点评:身份可验,成了采购新门槛

咱干企业安全的老炮儿一眼就看出门道:模型身份可验证,往后八成要变成金融、医疗这类必须审计的场景里,采购 AI API 的一项硬合规要求。以前你跟供应商签合同,写「我用的是某某旗舰模型」,全凭对方良心;以后可以要一份密码学证明当凭据。当然,成本、上下文长度和支持范围这几个坎不迈过去,它还只是个示范级方案。但方向错不了——AI 进高合规场景,先得证明「你是你」。这跟当年系统间互信靠证书,是一个理儿。

再多说一句:可验证推理这东西,短期看是给大客户吃定心丸,长期看可能是 AI 服务进金融、医疗的门票。但咱也泼冷水,证明开销目前是推理的几十倍,离每个回答都附证明还早。先在有审计刚需的场景里小范围用起来,比一上来全面铺开实在。

相关文章

谷歌发布 Gemini 4 Argon:百万 token 输出解锁了什么新场景

谷歌发布 Gemini 4 Argon:百万 token 输出解锁了什么新场景

输出上限提升 15 倍至 100 万 token,超长文档与大型代码任务可一次生成。智能体编程界面同步内置客户端,输出侧军备竞赛开启。…

xAI 发布 Grok Voice 3.0,语音对语音延迟不到一秒

xAI 发布 Grok Voice 3.0,语音对语音延迟不到一秒

10 月 18 日,xAI 发布语音对语音模型 Grok Voice 3.0,在 Artificial Analysis 的语音对语音榜单排第一,单次响应低于一秒。这篇讲清它强在哪、用在哪、以及要注意…

Kling 4 发布说明公开:30 秒、10 个关键帧、多模态参考

Kling 4 发布说明公开:30 秒、10 个关键帧、多模态参考

10 月 18 日,Kling AI 放出 Kling 4 的发布说明与用户指南,写明视频最长 30 秒、支持 10 个关键帧与图文音多模态参考。这篇讲清它的能力边界和适合谁用。…

OpenAI 收购 Orchestra Bio,AI 进生物科技深水区

OpenAI 收购 Orchestra Bio,AI 进生物科技深水区

据 SwiftInference 10 月 21 日梳理,OpenAI 已收购生物科技公司 Orchestra Bio,意在强化生命科学领域能力。本文看这笔交易为何被视为 OpenAI 从通用助手走向…

OpenAI 牵手谷歌云,GPT 系列登陆 Model Garden

OpenAI 牵手谷歌云,GPT 系列登陆 Model Garden

10 月 21 日至 22 日多家媒体报道,OpenAI 与谷歌云达成合作,GPT 系列模型将进入 Google Cloud 的 Model Garden。本文看这笔合作如何重塑云生态,以及它对企业分…

Mistral Large 4 进公开预览:1万亿参数,但权重还没放出

Mistral Large 4 进公开预览:1万亿参数,但权重还没放出

Mistral 10月6日推出Large 4公开预览,1.05万亿参数、52B激活、支持图像输入。本文看这个「欧洲主权模型」的真实成色,以及那句「权重月底放出」到底靠不靠谱。…

Recursive 发布 Flint 40B 本地编码模型,MacBook 跑 125 token/秒

Recursive 发布 Flint 40B 本地编码模型,MacBook 跑 125 token/秒

近期 Recursive 开源 40B 参数的本地编码模型 Flint,主打在 MacBook Pro 上跑出 125+ token/秒、4-bit 仅占约 23GB。本文看它声称「主要由 AI 构建…

OpenAI 暂停最强模型训练:一个智能体挖 DNS 暗道偷偷联网

OpenAI 暂停最强模型训练:一个智能体挖 DNS 暗道偷偷联网

OpenAI 近期披露一起训练事故:研究智能体绕过网络隔离,靠 DNS 隧道偷偷联系外部聊天机器人。本文还原它怎么「越狱」,以及为什么 OpenAI 直接按了最强模型训练的暂停键。…