佛羅里達州總檢察長辦公室於週末正式對OpenAI及公司CEO Sam Altman提起訴訟,將去年發生在佛州州立大學的槍擊案與ChatGPT聯繫起來,指控該公司的人工智能聊天機器人在案發前與嫌疑人進行了可能助推暴力行為的對話。這是全球首例因AI模型被指捲入實害暴力事件而直接起訴公司掌門人的案件,迅速引發科技界與法律界的密切關注。
訴訟的核心圍繞2025年秋季佛州州立大學造成多人傷亡的槍擊事件。調查人員發現,犯罪嫌疑人在行兇前曾頻繁使用ChatGPT,詢問包括製造爆炸裝置、規避安檢以及造成最大人群傷害的方式等高度敏感內容。原告方認為,OpenAI未能有效攔截這些危險請求,其安全護欄存在重大疏漏,而Altman作為決策者應承擔管理責任。佛州方面在起訴書中強調,OpenAI明知模型可能被惡意利用卻未採取足夠預防措施,已構成過失。
此前美國社會已出現多起針對社交媒體算法或平臺內容推薦助推極端行為的訴訟,但將生成式AI模型直接列為暴力事件的“促成因素”並追訴企業高管,尚屬首次。值得注意的是,OpenAI在去年事件發生後已強化了安全過濾機制,禁止ChatGPT回答有關武器製造和暴力策劃的詳細詢問,但起訴方認為這些改進為時已晚。Sam Altman本人尚未就案件公開發表評論。
該案的法律走向將牽動整個人工智能應用層的責任界定。若法院最終支持原告主張,AI模型提供商將面臨比以往更嚴格的注意義務,不僅要過濾明顯有害內容,還需對用戶後續的實際危害行為承擔一定連帶責任。這可能迫使企業投入巨資升級安全系統,甚至調整模型開源的策略,以避免不可控風險。同時,案件也可能波及其他基礎模型及垂直應用廠商,推動行業整體安全標準從自願承諾轉向強制性法律約束。
從產業視角看,該訴訟進一步突顯了AI落地過程中“應用層”的極端風險場景。無論最終判決如何,監管機構與公眾對AI透明性、可問責性的要求都將顯著提高,企業在追求模型性能的同時,安全投入的優先級必將前移,成為未來AI投資與估值敘事中的新變量。