AI 前沿
Anthropic 披露反蒸馏措施,并说明开发者兼容性代价
Anthropic 表示,通过保护推理上下文、识别提取尝试和限制账户,蒸馏者获取的数据量已下降约 90%—99%。公司也承认部分合法集成需要调整,仍可能出现误拦截。
Anthropic 于 10 月 12 日介绍了针对未经授权模型蒸馏的防护措施。这里的蒸馏是指大量获取一个模型的输出或推理记录,再用于训练另一模型。公司称,新措施实施后,相关账户从其平台提取的推理数据减少了约 90%—99%;这个数字来自公司自己的观测。
防护分为三类:限制受保护推理内容在上下文、模型和账户间流转;识别并阻止提取尝试;对反复尝试的账户施加限制或封禁。针对部分新建 API 账户,保留推理上下文的机制也改变了开发者能够编辑历史内容的方式,不能把这一变化仅理解为后台反滥用规则。
效果指标需要结合测量对象看。报告统计的是从 Anthropic 自有平台提取的推理 token,并未证明所有渠道的蒸馏都已消失。公司还表示,攻击方法会变化,尚不确定目前效果能维持多久。文中公布的低于 0.1% 的误判率,同样属于其特定防护系统的评估结果。
对正常开发者,最直接的变化是某些集成需要更新,少量合法请求仍可能被错误阻止。Anthropic 也披露,部分由这些防护措施拦截的请求会收费。这份公告因此既说明了模型能力保护的做法,也记录了兼容性与使用成本上的实际代价;它没有给普通用户提供一个需要手动开启的独立功能开关。