DeepMind 聯手多方投入千萬美元,研究 AI 智能體大規模交互風險
Google DeepMind 聯合 Schmidt Sciences、英國 ARIA 等機構設立 1000 萬美元研究基金,聚焦數百萬 AI 智能體在無人類監督下相互指令、在線交互可能引發的全新風險。DeepMind AGI 安全負責人 Rohin Shah 指出,智能體大規模部署後的詐騙、惡意指令注入等網絡攻擊可能升級,目前尚缺乏多智能體安全研究領域,希望借學術界力量提前佈局。
為什麼重要AI 智能體正從單點工具走向大規模自主協作,其交互行為的安全邊界直接關係到未來 AI 基礎設施與應用的信任根基,對產業鏈上下游的部署節奏與監管預期都有深遠影響。