Anthropic says its anti-distillation defenses cut Claude reasoning theft by 90%+
Anthropic says it has significantly reduced the effectiveness of distillation attacks on Claude, blocking 90% to 99% of harvested reasoning data and banning tens of thousands of accounts.
Anthropic 公布”防蒸馏”成绩单：偷 Claude 思维链的人，少拿了 90% 以上 以前是小偷偷东西，现在是小偷排队交”被拦下来的费用”。 S1哥上学时抄过同桌作业，被老师抓住后罚抄十遍。如今 AI 圈的抄作业叫”蒸馏”，规模是几十万个假账号，而 Anthropic 说，他们已经把这条抄作业的路堵上了九成多。 10 月 13 日（北京时间），@AnthropicAI 发推称：过去几个月显著降低了针对 Claude 的蒸馏攻击的有效性，并发布长文说明方法。截至北京时间 10 月 14 日 20:10，这条推 6,165 赞、227 万浏览。 一、什么是蒸馏攻击 按 Anthropic 官方文章（10 月 12 日发布）：蒸馏攻击是”隐蔽的、工业规模的”行动，用大模型生成海量回答去训练小模型，通常借助大批假账号。最值钱的数据是 Claude 的”思考过程”，因为它能教小模型”怎么想”，而不只是”想出什么”。 二、他们怎么拦 文章列了三招：一是控制推理内容的流向，比如新账号不能随意改写之前的上下文（preserved thinking），推理记录只对产生它的组织可见；二是用两阶段分类器拦截”套取推理”的提示，称误报率低于 0.1%；三是让反复尝试变难，对持续套取的账号收紧限额、封号，并对被拦下的请求恢复收费。 三、成绩，以及谁在被点名 官方称，新方法使蒸馏者拿到的推理 token 降低了 10 到 100 倍以上，早期证据显示被收割的数据减少约 90% 到 99%；已封禁数万个相关账号。文章还点名智谱曾蒸馏美国模型的网络攻击能力，并称月之暗面 Kimi 的请求曾被秘密转发给 Claude。这些是 Anthropic 的单方面表述，被点名方是否回应，文章中没有。 四、代价是什么 Anthropic 自己也承认有代价：部分开发者需要改集成，分类器在不到 0.1% 的情况下会误伤正常请求，还要为被拦的请求付费。换句话说，防小偷的锁，也会偶尔锁到自家人。 五、S1哥的看法 AI 行业最荒诞的地方在于：模型是用全网的文字练出来的，转过头就要告诉别人”不许抄我”。这当然有安全和国家层面的理由，但读者要明白，这是一篇既是技术报告、又是立场声明的文章。 结尾一句：数据曾经是大家的，等它被练成模型，就成了谁家的锁。