当地时间10月12日，美国人工智能公司Anthropic发布了一篇题为《加强对蒸馏攻击的防御》的长文，公开指责智谱和月之暗面，揭露其在大模型行业中的数据盗取内幕。Anthropic在这篇文章中详细列举了黑色产业链如何利用数十万个虚假账号，通过代理网络向其AI系统Claude发起数百万次请求，试图窃取其思维链而非简单的答案。数据表明，完整的推理过程训练小模型能提高代码评测到80.4%，而仅用答案训练则仅为71.8%，这十个百分点的差距显然构成了大模型最有价值的部分。
为了应对这一挑战，Anthropic采取了三项严格措施：首先，锁定推理上下文的新API账号禁止篡改对话历史，确保思维链只供内部使用；其次，将防蒸馏的安全分类器提升到与防生物武器同等的安全级别，误伤率低于千分之一；最后，即便是被拦截的恶意请求也会收取费用，并在几小时内封掉上万条洗白账号。通过这一系列措施，Anthropic成功将被盗取的数据量减少了90%至99%，选择放弃数万亿Token的收入以保护其核心资产。
显而易见，曾经在大模型领域竞争的表面是参数和性能的较量，而幕后的暗战则在于谁能更隐蔽地从前沿模型中获利。随着思维链的保护措施得到强化，真正的实力竞争或许才刚刚开始。
发表评论