Anthropic剛剛發佈僅數日的旗艦模型Claude Fable 5和Mythos 5,突遭美國政府出口管制並終止訪問,事件背後牽出安全漏洞、企業決策與監管博弈的多重糾葛。
據《華爾街日報》等多家外媒6月14日報道,此次封禁的導火索源於亞馬遜研究人員的一項發現。他們在使用Claude Fable 5進行研究時,獲取到了可用於網絡攻擊的信息。這一安全漏洞被上報後,美國政府迅速對Fable 5和Mythos 5實施了出口管制禁令,直接導致這兩款Anthropic迄今能力最強的大模型被關停。
特朗普前AI專員、現任總統科學技術顧問委員會聯合主席大衛·薩克斯在社交平臺X上進一步爆料了封禁背後的細節。他透露,美國政府在發現安全漏洞後,曾要求Anthropic首席執行官達里奧·阿莫代伊進行修復,否則將下架該模型。但阿莫代伊拒絕修復,並在後續官方聲明中聲稱該漏洞並不嚴重,其他公司的模型也存在類似問題。薩克斯批評這種淡化風險的表述,與Anthropic標榜自身為AI安全企業的品牌定位自相矛盾。他還表示,美國政府希望Anthropic能儘快解決安全問題以解除出口管制,並重新發布Fable 5模型。
從時間線看,封禁決策過程相當緊湊。The Information援引知情人士說法稱,在與亞馬遜CEO安迪·賈西及其他科技企業負責人會談結束後,美國國家網絡事務總監肖恩·凱恩斯克羅斯於週五召集高層官員開會,會上敲定出口管制是針對Anthropic最直接的手段。會後,阿莫代伊與政府官員通話時解釋稱,此次越獄漏洞的安全隱患門檻並不算高,其他大模型也可能出現同類問題,但美國政府告知其出口管制決議已不可更改。
事件對Anthropic的商業運營產生直接衝擊。亞馬遜雲科技在6月13日早上即撤銷了所有地區對Fable 5和Mythos 5的訪問權限。Anthropic則緊急推出退款方案,向用戶發送郵件說明已關閉Fable 5模型使用權限,Opus、Sonnet、Haiku等其餘模型仍可正常使用,並重置了用戶用量額度。用戶若認為調整不符合需求,可選擇取消訂閱並按剩餘時長獲得退款,截止時間為當地時間6月20日。不過有網友反映退款處理存在漏洞,比如直接關停全部訂閱服務導致原有權益受損,也有人斷言Claude已因此次事件被淘汰,準備轉向ChatGPT等競品。
亞馬遜作為Anthropic的主要投資方,其角色在此次事件中尤為微妙。亞馬遜今年4月曾披露,自2023年以來已向Anthropic投資130億美元,未來還計劃再投入200億美元。Anthropic的模型依賴亞馬遜Trainium芯片進行訓練,並運行在亞馬遜雲服務上。值得注意的是,亞馬遜近期也大手筆入股了Anthropic的主要競爭對手OpenAI,承諾最高投入500億美元,並首次將OpenAI最新模型接入亞馬遜雲科技對外銷售。這種雙重押注的佈局,使得Anthropic在安全合規上的任何波動都可能影響投資方的戰略天平。
從更宏觀的監管背景看,美國政府兩週前剛簽發一項行政令,推出一套自願合規機制,允許AI企業在發佈模型前先行向政府提交核驗。這一政策本就是政府內部圍繞是否設立更嚴苛許可制度展開博弈後的產物。此次Anthropic事件恰好發生在這一政策窗口期,可能加速推動第三方獨立紅隊深度攻防核驗成為行業硬性門檻。一位接近美國政府的官員對The Information表示,美國政府不太可能將針對Anthropic先進模型的出口限制擴展到其他AI公司,但這並不意味著其他企業可以高枕無憂,安全審查的陰影已然籠罩整個前沿模型賽道。
Anthropic在6月10日發佈Fable 5和Mythos 5時,曾特意設計分級開放與內置安全降級路由,試圖在強能力與風險管控間取得平衡。然而短短數日內,旗艦模型便因安全漏洞被關停,凸顯出即便最注重安全形象的AI企業,在真實攻防場景下仍可能面臨難以預料的連鎖衝擊。這一事件或將重塑行業對模型發佈前安全測試的重視程度,也讓投資者重新審視AI安全企業的風險管理能力與監管合規成本。