Anthropic 长文点名智谱、月之暗面蒸馏 Claude,封数万账号
Anthropic 发文指控智谱、月之暗面蒸馏 Claude 能力,并称已用分类器拦截、封禁数万账号,9 月 24 日起对拦截请求照常收费。
1/ Anthropic 刚发长文,标题很客气(《加强防御蒸馏攻击》),内容很不客气:点名道姓锤中国大模型厂商偷模型——智谱、月之暗面,一个都跑不掉。 2/ 先说智谱。GLM-5.3 研发期间,系统性偷美国顶尖模型的网络攻击能力。最开始想偷 Claude Fable 5,结果发现 Claude 的安全防护太硬、偷来的东西不好用,转头去偷旧版 Claude + 别家模型——挑软柿子捏,实锤了。 3/ 偷完什么效果?美方机构 CAISSI 评估:GLM-5.3 是"迄今为止网络攻击能力最强的开源模型"。而 Anthropic 自己实测:它的安全防护一捅就破,能端到端写 exploit。总结:偷了攻击能力,没偷(也没做)安全防护,就敢发布。 4/ 再说月之暗面。Kimi 把用户请求偷偷转发给 Claude,拿 Claude 的回答去炼自己的模型。最离谱的细节:其中一个请求来自疑似解放军关联人员,目的是分析某个特定个人的监控录像——用美国模型的能力,练监控的活。Anthropic 原文还补了一刀:这些能力正被整合进外国军事、情报和监控系统。 5/ Anthropic 怎么防?三板斧:① "preserved thinking"——新账号不许篡改 Claude 的上下文,旧模型读不到新模型的推理过程,断了跨模型、跨账号倒腾的路;② 双层分类器拦截提取行为,强度对标"防生物武器"级别,误伤率 <0.1%;③ 抓到就封号(几万个,经常 2 小时内封掉),9 月 24 日起,被拦截的请求照常收费——让你偷一次亏一次。 6/ 效果:蒸馏者能偷到的推理 token 掉了 10 到 100 倍,少了 90%~99%。代价呢?Anthropic 自己承认:主动放弃了"可观的收入"和"数万亿 token 的付费流量"。注意——来偷模型的人,可是付着钱的客户。防贼,等于把钱往外推。 7/ 所以这篇檄文真正的潜台词:有人不花钱搞研发,花小钱偷答案,偷完连安全都不做就发布,能力还进了军事和监控系统;而行业里很多人装睡——因为防蒸馏很贵,偷的人却是付费用户。Anthropic 把防御方法公开,等于喊话所有大厂:别装了,都得防。
这条是引用着另一条写的:x.com/anthropicai/status/2109795898909950247