Anthropic刚刚发布仅数日的旗舰模型Claude Fable 5和Mythos 5,突遭美国政府出口管制并终止访问,事件背后牵出安全漏洞、企业决策与监管博弈的多重纠葛。
据《华尔街日报》等多家外媒6月14日报道,此次封禁的导火索源于亚马逊研究人员的一项发现。他们在使用Claude Fable 5进行研究时,获取到了可用于网络攻击的信息。这一安全漏洞被上报后,美国政府迅速对Fable 5和Mythos 5实施了出口管制禁令,直接导致这两款Anthropic迄今能力最强的大模型被关停。
特朗普前AI专员、现任总统科学技术顾问委员会联合主席大卫·萨克斯在社交平台X上进一步爆料了封禁背后的细节。他透露,美国政府在发现安全漏洞后,曾要求Anthropic首席执行官达里奥·阿莫代伊进行修复,否则将下架该模型。但阿莫代伊拒绝修复,并在后续官方声明中声称该漏洞并不严重,其他公司的模型也存在类似问题。萨克斯批评这种淡化风险的表述,与Anthropic标榜自身为AI安全企业的品牌定位自相矛盾。他还表示,美国政府希望Anthropic能尽快解决安全问题以解除出口管制,并重新发布Fable 5模型。
从时间线看,封禁决策过程相当紧凑。The Information援引知情人士说法称,在与亚马逊CEO安迪·贾西及其他科技企业负责人会谈结束后,美国国家网络事务总监肖恩·凯恩斯克罗斯于周五召集高层官员开会,会上敲定出口管制是针对Anthropic最直接的手段。会后,阿莫代伊与政府官员通话时解释称,此次越狱漏洞的安全隐患门槛并不算高,其他大模型也可能出现同类问题,但美国政府告知其出口管制决议已不可更改。
事件对Anthropic的商业运营产生直接冲击。亚马逊云科技在6月13日早上即撤销了所有地区对Fable 5和Mythos 5的访问权限。Anthropic则紧急推出退款方案,向用户发送邮件说明已关闭Fable 5模型使用权限,Opus、Sonnet、Haiku等其余模型仍可正常使用,并重置了用户用量额度。用户若认为调整不符合需求,可选择取消订阅并按剩余时长获得退款,截止时间为当地时间6月20日。不过有网友反映退款处理存在漏洞,比如直接关停全部订阅服务导致原有权益受损,也有人断言Claude已因此次事件被淘汰,准备转向ChatGPT等竞品。
亚马逊作为Anthropic的主要投资方,其角色在此次事件中尤为微妙。亚马逊今年4月曾披露,自2023年以来已向Anthropic投资130亿美元,未来还计划再投入200亿美元。Anthropic的模型依赖亚马逊Trainium芯片进行训练,并运行在亚马逊云服务上。值得注意的是,亚马逊近期也大手笔入股了Anthropic的主要竞争对手OpenAI,承诺最高投入500亿美元,并首次将OpenAI最新模型接入亚马逊云科技对外销售。这种双重押注的布局,使得Anthropic在安全合规上的任何波动都可能影响投资方的战略天平。
从更宏观的监管背景看,美国政府两周前刚签发一项行政令,推出一套自愿合规机制,允许AI企业在发布模型前先行向政府提交核验。这一政策本就是政府内部围绕是否设立更严苛许可制度展开博弈后的产物。此次Anthropic事件恰好发生在这一政策窗口期,可能加速推动第三方独立红队深度攻防核验成为行业硬性门槛。一位接近美国政府的官员对The Information表示,美国政府不太可能将针对Anthropic先进模型的出口限制扩展到其他AI公司,但这并不意味着其他企业可以高枕无忧,安全审查的阴影已然笼罩整个前沿模型赛道。
Anthropic在6月10日发布Fable 5和Mythos 5时,曾特意设计分级开放与内置安全降级路由,试图在强能力与风险管控间取得平衡。然而短短数日内,旗舰模型便因安全漏洞被关停,凸显出即便最注重安全形象的AI企业,在真实攻防场景下仍可能面临难以预料的连锁冲击。这一事件或将重塑行业对模型发布前安全测试的重视程度,也让投资者重新审视AI安全企业的风险管理能力与监管合规成本。