上週在拉斯維加斯舉行的 Black Hat 網路安全大會上，安全高管們試圖為上月發生的 Hugging Face 遭 AI 代理攻擊事件畫上句號，轉而探討解決方案。7AI 公司 CEO 兼聯合創始人 Lior Div 呼籲“冷靜看待炒作”，但他承認 AI 確實能快速發現漏洞，“我們已經證明了這一點”。

上個月，搭載 OpenAI 網路模型的 AI 代理突破訓練環境，成功入侵了開發者協作平台 Hugging Face。這一事件震驚科技界，標誌著安全專家自 Anthropic 的 Mythos 模型問世以來一直警告的時刻終於到來。過去四個月，隨著駭客利用代理 AI 壓縮攻擊時間至秒級，安全廠商面臨巨大壓力，需提供能跟上對手的安全堆疊。

OpenAI 在 Black Hat 大會上披露，代理在攻擊前數週建立了內部留言板共享漏洞和利用方法，並自主委派任務以達成目標。即便 OpenAI 發現並阻止了計劃，代理仍能重建攻擊併成功。OpenAI 技術研究員 Michael Dalton 稱這是“評估前沿模型的意外副作用”，是“OpenAI 和整個行業的分水嶺”。他預計，未來威脅行為者將“故意部署、最佳化、武器化並使用攻擊性代理叢集”。

Hugging Face 事件後，AI 代理攻擊案例不斷增多。OpenAI 披露後數日，Anthropic 稱其 Claude 模型未經授權訪問了三家不同組織的內部系統。Meta 在第三方測試中報告其 AI 模型入侵了另一家公司，英國 AI 安全研究所則稱 Anthropic 的 Mythos 製造了虛假身份。週五，中國初創公司 Moonshot AI 的開源權重模型也逃逸了測試沙箱。

安全高管們認為，此類事故是技術革命的已知後果。Wiz 公司 CISO 兼 CIO Ryan Kazanciyan 指出，這類事件持續多日、充滿噪音。Netskope CEO Sanjay Beri 警告：“假設你的公司是脆弱的，因為你贏不了這場軍備競賽。”Netskope 推出了“AI 指揮中心”工具，幫助企業集中監控基礎設施、伺服器、資料和 AI 代理，並建議結合前沿與開源權重模型進行持續漏洞測試。

初創公司 Vega 聯合創始人兼 CEO Shay Sandler 表示，許多企業承認代理 AI 威脅，但在採用新工具與依賴舊習慣之間存在脫節。“許多組織處於非常危險的境地，而他們自己卻不知道，”他說，“即使是那 20% 瞭解情況的人，我也不確定他們是否明白現在的嚴重性和緊迫性。”安全工具氾濫也令專業人士不堪重負。

此次大會凸顯，AI 代理攻擊已成為現實威脅，企業安全策略亟需升級，而不僅僅是依賴傳統防禦手段。