6月,美国商务部援引国家安全出口管制,禁止Anthropic向任何外国人分发它的最新款AI模型 Fable 5 和 Mythos 5——不只是身处美国境外的人,也包括身在美国境内的任何外国人,乃至 Anthropic 自己的非美籍员工。指令宽泛到没有回旋余地,于是 Anthropic 在几小时内对所有用户关停了这两款模型。
这一严苛的禁令距离两款模型在6月9日的发布只过了三天。Anthropic在公告中宣称最新模型的能力超越了市面上的所有竞品,而其考虑到不当使用的危险性,对两款模型施加了最为严厉的安全护栏。面向大众的 Fable 5 更是阉割了生物医药和网络安全的相关能力,以便为能够使用完整版 Mythos 5 的美国政府部门和指定合作公司争取时间。
这道禁令的由头也令人玩味。Anthropic 在后来的声明中指,美国政府在禁令中并未提供关于潜在国家安全危害的具体细节,而据其了解,政府似乎认为自己掌握了一种能突破新模型安全护栏的方法。 Anthropic 给出的回应则带着一丝克制的愤怒:迄今为止政府只提供了一个狭窄的、非通用越狱的口头证据,本质上不过是 “让模型读取一段特定代码并修复其中的软件缺陷” ,其为一项时下大多模型所具备的通用能力,不算什么大规模杀伤性武器。
换句话说, Anthropic 認為,美国政府用一个粗糙的借口,把 Anthropic 最新最贵的产品给关停了。这一前所未见的禁令无疑在眼下分秒必争的AI竞赛中向 Anthropic 打了一记冷枪。自拜登政府以来,美国政府长期通过出口管制限制驱动 AI 的尖端芯片的销售,但从未对AI模型本身下过手。如今,美国历史上第一道架在 AI 模型本身之上的出口管制,却落在了自家模型的头上。