Anthropic 公布模型蒸馏攻击防御进展

Anthropic 介绍减少未经授权模型能力提取的措施，并说明这些防御对数据保护及正常集成带来的取舍。

Anthropic 于10月12日发布防御模型蒸馏攻击的说明。公司称，新方法已明显减少攻击者能够收集的数据，初步证据显示下降幅度约为九成至百分之九十九，相关数字来自其自身观察。

公告把此类攻击描述为通过大量账户提取模型能力的活动，并指出防御不仅涉及简单流量限制。公司还承认，措施需要持续投入研究资源，部分合法用户也需要对现有集成进行更新。