Anthropic says anti-distillation defenses cut extraction by 90-99% and banned tens of thousands of accounts
Anthropic says distillation attacks on Claude now yield 90-99% less useful data, citing limits on passing reasoning across contexts, a two-stage classifier, and bans plus charges for repeat extractors, with tens of thousands of fake accounts banned.
Anthropic 强化防御：针对 Claude 的蒸馏攻击效果显著下降 Anthropic发文称：过去几个月针对 Claude 的“蒸馏攻击”效果被大幅削弱了，提取到的有用数据大概降了 90% 到 99%。 简单说就是有人偷偷用大量假账号、代理网络去问 Claude，尤其是把 Claude 的“思考过程”一整段一整段地抠出来，然后用这些数据去训练自己的小模型，让小模型学会 Claude 的能力。这样他们不用自己花大价钱训练，就能快速抄到接近前沿的能力。 Anthropic 担心两件事： 抄出来的模型经常没有配套的安全防护，容易被拿去干坏事（比如生物、网络安全相关的）。 有些公司把这些能力用进了国外军事、情报、监控系统。比如提到 智谱用 Claude 的能力做 GLM-5.3 的网络攻击相关能力 他们之前试过让 Claude 把思考过程总结一下再给用户看，这样抄起来没那么有用。但攻击方改用更主动的办法去诱导 Claude 把完整思考过程吐出来，还用几万个假账号轮换。 这次新办法主要三招： 限制思考过程的流转：新账号不能随便改之前的上下文，也不能把思考过程跨对话、跨模型、跨账号搬来搬去。 专门检测和拦截提取行为：用一个两阶段分类器，专门识别想挖思考过程的请求。他们说这个检测强度接近防生物武器的水平，误伤率低于 0.1%。 发现就封号 + 收费：反复尝试提取的账号会被封，从 9 月 24 日起对高置信度被拦截的请求还要收费。 结果是：在他们平台上，攻击方能提取到的思考过程 token 数量降了 10 到 100 倍，还快速封了几万个相关账号。 代价是：他们自己损失了不少收入（万亿级 token 的付费流量），有些正常用户得改一下集成代码，偶尔也会有极少数正常请求被误拦。 Anthropic 的态度是：这是所有前沿模型公司都会碰到的问题，需要大家一起防；同时承认这是“猫鼠游戏”，以后还得继续升级防御。 X 上很多用户吐槽说：你们自己训练时也是用了别人的数据，现在别人蒸馏你们就叫“攻击”，有点双标 简单来说，就是 Anthropic 发现有人在大规模“抄作业”，现在加强了技术手段，让抄变得难多了。
This post quotes another post: x.com/anthropicai/status/2109795898909950247