Anthropic details distillation attack defenses, bans tens of thousands of Claude accounts

AYi @AYi_AInotesOriginally posted 2026.10.13

Open original on X

报告全称：Anthropic 官方研究博客《Strengthening our defenses against distillation attacks》 → 核心事件：Anthropic 披露多起针对 Claude 的工业级蒸馏攻击，并明确提及 Zhipu（智谱 GLM-5.3）与 Moonshot（月之暗面 Kimi）的相关案例 核心攻防细节： → 为什么偷思维链：以 SWE-bench Verified 编程基准为例，用完整推理转录训练得分高达 80.4%，而只用总结版转录得分仅 71.8%，推理逻辑是能力迁移的关键 → 攻击规模：黑产网络控制数十万个虚假账号，通过提示词注入（如要求逐字输出隐藏推理）进行多轮试探 → 官方防御三重门：上线 preserved thinking 防篡改机制、部署生物武器级双层宪法分类器（误报率 <0.1%）、被拦截请求恢复计费并封禁数万账号 → 战果与代价：蒸馏数据提取量下降 90%–99%，Anthropic 主动放弃了数万亿 Token 的潜在付费流量 当海外前沿大模型把蒸馏管道彻底焊死，大家觉得对开源模型和垂直落地团队的影响到底有多大？