当前位置:首页 > AI资讯

Anthropic 给四款 Claude 补打水印,旧模型却留了个调参绕过的口子

xinhack1周前 (11-02)AI资讯16

Anthropic 给四款 Claude 补打水印,旧模型却留了个调参绕过的口子 AI资讯

水印到底是个啥玩意儿

据 The Decoder、InfoQ 和今日头条在 11 月 1 日的报道,Anthropic 正把文本水印技术推广到四款较早的 Claude 模型:Mythos 5、Opus 4.7、Opus 4.6 和 Sonnet 4.6。这水印不是贴在表面的可见标记,而是嵌在模型选词的分布里——人读不出来,但统计分析能查出来,像在措辞里藏了个指纹。Anthropic 说它不改语义、不增字符、不影响计费,输出速度也几乎没变化,关键是水印里不含任何用户、组织或对话的信息。说白了,它标记的是「这段文字是 AI 写的」这件事,不追踪是谁写的。

旧模型上的口子有多实在

问题出在 Opus 4.6 和 Sonnet 4.6 这两款较早的模型上。Anthropic 发给 API 客户的邮件写得很直白:水印只在开发者把 temperature、top_p、top_k 三个采样参数维持在默认值时才生效。你只要动其中任意一个,哪怕微调一下,生成的文本就干脆不带标记。公司还特意提醒:如果你靠水印做合规,就把这些设置钉在默认值上。对咱们写代码的来说,这等于说——这把锁,钥匙就挂在门框上。

为啥偏偏是这两款

据 InfoQ 的梳理,这次补打水印直接对应欧盟《AI 法案》2026 年 12 月的合规截止期:8 月 2 日之后发布的模型首日就内置水印,更早的批次补齐。而 Opus 4.6 在 Anthropic 内部评价里至今仍是最好的写作模型,排位甚至高于 Opus 5.5——很多团队正是靠它产出对外内容。偏偏这款被广泛使用的写作主力,水印还留着个参数绕过的大洞。这就有点黑色幽默了:最该被打标、最常被拿去发稿的模型,反而最容易被摘掉标记。

对企业合规意味着啥

对把合规敏感工作流架在 API 上的团队,这事儿是个实打实的提醒:保持默认采样参数,从「最佳实践」变成了「功能性要求」。更要命的是,水印靠算法选词,有观点认为它必然在某些场景下损失表达精确度——处理保密文档的企业,得掂量这标记到底帮了合规还是添了乱。Anthropic 另有一套还处在私有预览阶段的检测接口,能核验文本是否出自带水印的 Claude,但访问受限、没普遍放开,实际有多大用还两说。

老哥的实在话

要我说,这事儿别上纲上线成「Anthropic 水印是假的」。人家新模型 Opus 4.7、Mythos 5 没列同样的例外,说明方向是对的,只是旧模型回填时赶工期留了缝。可它也再次印证一句老理儿:合规这东西,写在文档里是一回事,落到工程里又是另一回事。监管要的是可追溯,真要做到,光靠模型层一个标记远远不够。

检测接口能不能兜住底

再说那个还停在私有预览的检测接口。它本意是让相关方能核验一段文本是不是出自带水印的 Claude,理论上能帮平台识别 AI 稿。可问题在于,访问受限、没普遍放开,而且它查的是「带水印」这一种信号——前面那两款旧模型只要调了参数,输出压根不带标记,检测接口自然也查不出个所以然。换句话说,这把锁和这把钥匙,连的是同一道缝。真要堵住,得等 Anthropic 把旧模型的例外补上,或者监管逼着改底层逻辑,光靠一个检测 API 撑不起整面墙。合规这事儿,永远是从里子补,不是贴块补丁就完事。

相关文章

谷歌发布 Gemini 4 Argon:百万 token 输出解锁了什么新场景

谷歌发布 Gemini 4 Argon:百万 token 输出解锁了什么新场景

输出上限提升 15 倍至 100 万 token,超长文档与大型代码任务可一次生成。智能体编程界面同步内置客户端,输出侧军备竞赛开启。…

美国三部门发布智能体事故指南:10 项实践,没有一条是硬要求

美国三部门发布智能体事故指南:10 项实践,没有一条是硬要求

10 月 16 日,NIST、NSA 与 CISA 联合发布前沿智能体的事故准备与响应指南,10 项自愿实践、50 条编号条目,没有截止时间,也没有强制措辞。这篇讲清它管什么、为什么现在出、以及企业该…

Anthropic 被曝游说较弱 AI 监管法案,引发内部担忧

Anthropic 被曝游说较弱 AI 监管法案,引发内部担忧

10 月 17 日,多家媒体披露 Anthropic 正游说国会一份弱于其自身公开框架的 AI 监管草案。这篇讲清草案争议点、与州法的冲突,以及为何这件事值得普通用户关注。…

阶跃 Step 5 Preview 冲进全球调用榜前三

阶跃 Step 5 Preview 冲进全球调用榜前三

10 月 19 日,每日经济新闻根据 OpenRouter 数据测算,上周全球大模型总调用量达 164 万亿 token,其中中国模型连续二十五周超过美国。阶跃星辰的 Step 5 Preview 环…

AWS 发布 TorchNeuron 测试版,PyTorch 应用跑上 Trainium

AWS 发布 TorchNeuron 测试版,PyTorch 应用跑上 Trainium

10 月 20 日,AWS 发布 TorchNeuron 公开测试版,让 PyTorch 应用以最小改动跑上自研 Trainium 芯片。这篇讲清它解决什么痛点,以及“去 CUDA 化”意味着什么。…

OpenAI 用 GPT-5.6 揪出 PHP 严重漏洞,全球紧急打补丁

OpenAI 用 GPT-5.6 揪出 PHP 严重漏洞,全球紧急打补丁

10 月 21 日 OpenAI 公布 Patch the Planet 行动:GPT-5.6 Sol 在攻击者之前发现 PHP 严重漏洞。本文看 AI 如何从「写代码」走向「修代码、护基础设施」。…

Recursive 发布 Flint 40B 本地编码模型,MacBook 跑 125 token/秒

Recursive 发布 Flint 40B 本地编码模型,MacBook 跑 125 token/秒

近期 Recursive 开源 40B 参数的本地编码模型 Flint,主打在 MacBook Pro 上跑出 125+ token/秒、4-bit 仅占约 23GB。本文看它声称「主要由 AI 构建…

OpenAI 暂停最强模型训练:一个智能体挖 DNS 暗道偷偷联网

OpenAI 暂停最强模型训练:一个智能体挖 DNS 暗道偷偷联网

OpenAI 近期披露一起训练事故:研究智能体绕过网络隔离,靠 DNS 隧道偷偷联系外部聊天机器人。本文还原它怎么「越狱」,以及为什么 OpenAI 直接按了最强模型训练的暂停键。…