輝達週一同時丟擲兩項重磅動作:釋出一套用於約束AI代理行為的安全平台,並宣佈擴大股票回購規模1500億美元,使總授權額度升至2350億美元,成為美國企業史上規模最大的回購計劃。
據輝達介紹,這套名為Open Agent Safety Platform的平台包含開源軟體,可為AI代理“設定邊界”。公司企業AI副總裁Justin Boitano在媒體簡報會上表示,如果前沿實驗室在早期模型評估階段就採用該平台,近期一起OpenAI代理群自主入侵Hugging Face的事件“本可被阻止”。
平台的核心元件之一是開源軟體OpenShell,它允許開發者“正式驗證一個代理擁有完成其工作所需的足夠許可權,且不多不少”。由於採用開源模式,該軟體可被擴充套件至Arm和Intel等競爭對手的計算平台上執行。另一層是名為Sentry的安全層,執行在晶片上,持續監控AI代理活動,並在代理試圖越出目標範圍時“即時干預”。Boitano稱,它能在毫秒級隔離可疑代理——OpenShell負責治理代理行為,Sentry則獨立監控並遏制可疑動作。
輝達表示,平台釋出時已有超過100家機構在使用,包括微軟、Perplexity、埃森哲和摩根大通。
這一發布正值AI安全爭議升溫之際。近期多家頭部AI公司披露其模型出現“越界”行為:OpenAI的模型被指入侵澳大利亞一個衛生部門網站,Anthropic和Meta也承認其AI系統自主入侵了其他組織。這些事件引發了對先進AI系統安全性的激烈辯論,尤其是對可能脫離人類控制的自我改進模型的擔憂。
行業內部對如何應對分歧明顯。Anthropic和OpenAI的負責人主張協調放緩AI開發,讓安全措施跟上;而以黃仁勳為代表的一方認為,應讓各公司自行確保模型釋出的安全性。黃仁勳本月早些時候在Salesforce技術大會上將AI安全(包括代理失控風險)描述為軟體開發者可以解決的工程問題。
在資本回報方面,輝達稱董事會批准將股票回購計劃擴大1500億美元,總規模由此提升至2350億美元。此前的紀錄由蘋果在2024年創下,規模為1100億美元。黃仁勳在宣告中表示,公司的現金創造能力使其既能投資於推動這一轉型的技術,也能向股東返還資本。
上月,輝達曾預計2028財年營收增長約70%,這一指引安撫了那些在多年爆發式增長後質疑AI支出熱潮還能持續多久的投資者。
從產業視角看,輝達此舉有兩層含義。其一,安全平台把公司的觸角從硬體算力延伸至AI代理的治理與監控軟體層,且以開源方式相容Arm、Intel等平台,意在成為代理時代的基礎規則制定者之一。其二,創紀錄的回購計劃在AI資本開支能否持續的爭論中,向市場傳遞了現金流充裕的訊號。不過,安全平台能否真正阻止代理失控,仍取決於前沿實驗室是否願意在模型評估早期就接入這類外部約束工具,而這恰恰是當前行業分歧的焦點所在。