Anthropic details anti-distillation measures, says tens of thousands of accounts banned
Anthropic says its new defenses cut reasoning content extracted by distillation from Claude by about 90%–99%, using reasoning restrictions, classifiers and rate limits, and that tens of thousands of accounts have been banned.
Anthropic 发文披露了它这几个月防「蒸馏」的做法和效果。 核心数据：新防护上线后，蒸馏方从 Claude 提取到的推理内容减少了约 90%–99%。这是官方自己的估算，只统计自家平台。 为什么盯着推理过程：Anthropic 认为，对蒸馏最有价值的不是最终答案，而是模型的思考过程。它做过测试，用 Opus 4.8 的完整推理记录训练，SWE-bench Verified 得分 80.4%；只给摘要版推理，降到 71.8%。 三项措施： 1. 管住推理的去向：8 月 31 日之后注册的 API 账户不能再编辑 Claude 的历史上下文；推理记录不能被旧模型读取，Sonnet 5.5 的推理只对发起请求的组织可见。 2. 两级分类器拦截提取请求，误判率低于 0.1%。 3. 抬高重试成本：限流、封号（已封数万个，往往在开始蒸馏后 2 小时内），9 月 24 日起被拦截的请求照常计费。 官方承认的代价：部分开发者要改集成方式；不到 0.1% 的正常请求会被误拦，而且照样收费；放弃了数万亿 token 的付费流量。它也说不清效果能维持多久，目前还没遇到真正高水平的持续绕过尝试。 需要注意：文中点名智谱（GLM-5.3）和月之暗面（Kimi），并称蒸馏所得能力被用于军事和监控场景。这些目前只是 Anthropic 一方的说法，文章没有给出可供外部核验的证据。 评论区的高赞回复多在质疑「攻击」这个定性：各家模型本身就是用抓取的互联网内容和版权书籍训练的，蒸馏和它差别在哪？也有人支持，认为不设防会让前沿模型的投入无法回收。 原文：https://www.anthropic.com/research/distillation-defenses
This post quotes another post: x.com/anthropicai/status/2109795898909950247