WHAT NEW IN X11.02 MON

X 上的 AI 合集档案 · 22 个合集 · 64,204 条

anthropicPOST

Anthropic发文详解防蒸馏:限流封号并收费

Anthropic长文讲防蒸馏三板斧,持续薅推理的账号直接限流、屡犯封号,数万账号常在两小时内被封。

M.
@wlzh19 天前收录原推发布于 2026.10.13
M. @wlzh原推发布于 2026.10.13
在 X 上打开原推

Anthropic 这次是真下狠手了。 他们发了篇长文,讲怎么防"蒸馏攻击":就是有人工业化地薅 Claude 的能力,喂给自己的小模型,绕过授权。核心是三板斧,效果是让攻击者能薅到的推理数据掉了 90% 到 99%。 先说为什么这么急。两个例子很扎眼:智谱在做 GLM-5.3 时蒸馏了美国头部模型的网络攻防能力,还试图蒸馏 Claude Fable 5,发现 Anthropic 的防护太硬才换了老模型。另一个更直接:月之暗面的 Kimi 有请求被偷偷转发到 Claude,其中一个请求来自疑似解放军背景的人,想分析某个特定人物的监控录像。蒸馏出来的能力,直接进了别人的军事情报系统。 所以 Anthropic 的三板斧: 第一,管住推理过程去哪。Claude 最值钱的不是答案,是写答案之前的思考过程。以前攻击者会把推理块在对话之间、模型之间、账号之间挪来挪去,骗 Claude 交出完整思考。现在 Fable 5.1 和 Opus 5.5 上了"preserved thinking":2026 年 8 月 31 日之后建的新 API 账号,不能再改 Claude 的历史上下文;老模型也读不到新模型的推理;Sonnet 5.5 的推理记录只有当初发请求的那个组织能看。 第二,堵提取行为本身。搞了个两阶段分类器,专门识别"想骗出隐藏推理"的请求,误杀率不到千分之一,强度对标防生物武器那套。部署在 Sonnet 5.5、Opus 5/5.5、Fable 5/5.1 上。攻击者换花样(比如让 Claude 把推理翻译成别的语言再输出),他们就打补丁。 第三,让反复试探变贵。持续薅推理的账号直接限流,屡教不改就封号,几万个账号往往在开薅两小时内就被封。从 9 月 24 日起,被拦截的请求照样收费。薅一次交一次钱,成本直接拉满。 代价也不小:Anthropic 说他们拒绝了实打实的收入,几万亿 token 的付费流量说不要就不要;部分正常用户还得改自己的接入代码。 但他们话说得很明白:蒸馏是每个大模型厂商都要面对的问题,防是贵的,不防是有人替你买单的——攻击者照样是付费客户。发这篇文章,就是想告诉行业:有可行的办法,别装看不见。

x.com/wlzh/status/2109828250679873787采集于 2026.10.13 10:12