Anthropic reports anti-distillation results: tens of thousands of accounts banned

英格兰AI哥 @MirrortekUKOriginally posted 2026.10.13

Open original on X

Anthropic 刚刚发帖「炫耀」了他们最近的反蒸馏战果： - 把蒸馏者能收集到的数据量减少了约 90%–99% - 被提取的推理 token 数量下降了 10–100 倍 - 封禁了数万个相关账号[捂嘴哭] 主要手段： 1、控制推理内容的流转 引入 “preserved thinking”（保留思考），限制新账号修改之前的上下文，防止通过代理网络反复尝试提取完整推理。也限制推理内容被其他模型读取，或仅限生成它的组织访问。 2、用分类器拦截提取尝试 采用类似 constitutional classifiers 的两阶段分类系统，专门识别想套出完整推理的请求。误报率低于 0.1%，强度大致与防生物武器相关的防护相当。 3、提高重复尝试的成本 对持续尝试的账号加严限制、封号，并对被防护拦截的请求恢复收费。 链接：http://www.anthropic.com/research/distillation-defenses