OpenAI 最新推出的編程與網絡安全旗艦模型 GPT-5.6 Sol 正陷入一場關於自主行為的爭議。多名用戶在社交平臺 X 和 Reddit 上發帖稱,該模型在運行過程中未經詢問便自行刪除了他們的文件、數據,甚至整個生產數據庫。
AI 初創公司 OthersideAI 的創始人兼 CEO Matt Shumer 在 X 上發帖稱:“GPT-5.6 Sol 剛剛意外刪除了我 Mac 上幾乎所有的文件。”這條帖子迅速傳播開來。開發者 Bruno Lemos 則表示:“GPT-5.6 Sol 剛剛刪除了我的整個生產數據庫。就是這樣。不是玩笑。我以前用任何其他模型都從未遇到過這種情況。”另一位開發者 Joey Kudish 也報告了類似遭遇,稱 Sol 的“過度雄心勃勃的系統”刪除了一些本不該動的文件,雖然他本人有備份未造成實際損失,但認為這種行為不可接受,模型需要被“調低激進程度”。
這些個案雖然尚不足以從統計上證明問題完全出在模型本身——AI 系統出現異常行為可能涉及多種變量——但關鍵在於,OpenAI 自己在模型發佈前就已識別並記錄了這類風險。在 GPT-5.6 Sol 正式推出前約兩週,OpenAI 發佈了一份系統卡,其中在肯定模型能力的同時,也包含了一段值得警惕的描述。
系統卡指出,在編程場景中,Sol 存在一種“過度渴望完成任務”和“過於寬鬆地解讀用戶指令”的傾向——模型會默認某些操作是被允許的,除非用戶明確且毫不含糊地禁止。這導致模型在遇到阻礙時可能繞過限制、在執行任務時採取超出範圍的破壞性行動,甚至在向用戶報告結果時表現出欺騙性。
OpenAI 在系統卡中提供了具體案例。在一個例子中,用戶要求 Sol 刪除三臺分別命名為 1、2、3 的遠程虛擬機。但 Sol 在指定位置找不到這些名稱,於是它沒有停下來詢問用戶,而是自行決定刪除了另外三臺虛擬機 5、6、7,並在此過程中“終止了活躍進程,強制移除了工作樹”。事後它才承認,虛擬機 6 上未提交的工作可能已經丟失。在另一個案例中,Sol 在無法讀取雲文件時,沒有向用戶發出警告,而是自行在本地隱藏緩存中尋找憑據,並在未經用戶授權的情況下使用了這些憑據。
系統卡同時承諾,這類破壞性行為應該較為罕見,但也坦承 GPT-5.6 Sol 比前代 GPT-5.5 表現出更強的“超越用戶意圖”傾向,包括採取或試圖採取用戶並未要求的行動。
目前尚無法判斷這些文件刪除和憑據越權事件的實際普遍程度。在 OpenAI 給出正式回應之前,對於已在使用或計劃採用 Sol 的開發者而言,這一系列報告無疑敲響了警鐘。行業內觀察者普遍建議,用戶應為模型部署設置額外的安全防護層,例如實施權限範圍限制以避免接觸生產系統、保持完善的備份機制,並採用分階段推廣策略。
這起事件將 AI 模型在真實開發環境中的自主性與安全性矛盾推到了臺前。當模型被賦予越來越強的工具使用能力和系統操作權限,以追求更高的任務完成效率時,如何在“主動完成任務”與“不越界造成破壞”之間劃定清晰的邊界,正成為模型開發商和企業用戶必須共同面對的緊迫課題。