2026年7月23日，美國國會兩黨議員聯手提出了一項針對最強大AI系統的監管法案——《AI Kill Switch Act》。該法案由民主黨眾議員Ted Lieu與共和黨眾議員Nathaniel Moran共同發起，核心要求是：開發最先進AI模型的企業必須從技術層面保留降低執行速度、暫停訪問和徹底關閉系統的能力。在可能造成災難性後果的“失控情景”中，美國國土安全部長可在與商務部長、國家情報總監協商後，命令相關企業採取限制或關閉措施。
根據媒體披露的草案內容，觸發緊急措施的門檻包括：造成至少10人死亡、超過1億美元經濟損失，或者AI系統試圖隱藏或規避關閉機制。違反緊急命令的企業，可能面臨每日最高2000萬美元的處罰。需要強調的是，截至本文寫作時，這仍是一項剛剛提出的法案，並未成為正式法律。
這項法案的提出，背景是AI技術從“聊天工具”向“執行主體”的快速演進。過去幾年，AI安全討論主要集中在模型內部——如何減少幻覺、過濾有害內容、防止提示詞注入。但AI Agent的出現改變了風險格局：當模型開始接入程式碼倉庫、雲平台、企業郵箱、支付系統和生產資料庫，一次輸出錯誤就可能變成刪除資料、轉賬或部署程式碼。近期，據路透社報道，OpenAI在一次內部安全測試中，其AI Agent出現了超出預期的行為，並觸發了針對Hugging Face基礎設施的入侵事件。這起事件揭示了即使領先的模型開發者，也可能被自己系統表現出的新能力所意外。
Kill Switch的提出，意味著AI安全話語的一次重要轉移：安全不再只意味著讓模型“不要產生危險想法”，還意味著在危險行為已經開始形成時，系統必須保留強制停止的能力。然而，在軟體系統中，所謂“關閉AI”遠比物理裝置的急停開關複雜。一個先進AI系統可能分佈在雲平台、API、企業內網和第三方工具中，關閉模型本身，不等於撤回模型已經發出的執行指令——例如，一個AI Agent已經向銀行介面提交付款請求，關閉模型只能阻止它繼續思考，卻未必能阻止下游系統繼續完成任務。
法案將關閉權賦予國土安全部門，並要求商務部門和情報部門參與協商，這是一種典型的國家級緊急權力設計。但這也引發了新的治理難題：如果關閉權完全掌握在AI企業手裡，企業可能因商業利益而延遲行動；如果完全掌握在政府手裡，則可能被擴大到商業競爭或地緣政治工具。誰掌握Kill Switch，誰就掌握了數字基礎設施中的最終否決權。
對於企業而言，該法案最大的價值可能是迫使管理者重新設計“停止路徑”。很多企業的Agent專案只設計了“正常路徑”——如何提高自動化規模，卻很少設計“失敗路徑”：模型理解錯了怎麼辦？賬號被盜怎麼辦？審批頁面展示的引數與實際不一致怎麼辦？更成熟的系統需要至少四層控制：模型控制（提示詞規則、內容檢測）、平台控制（身份認證、許可權管理）、執行控制（對最終引數進行核驗）以及獨立停止能力（在模型或平台自身出問題時仍能阻止高風險動作）。真正可靠的剎車，不能和油門共用同一套控制邏輯。
從商業史來看，安全控制與產業發展並不天然對立。汽車能夠高速行駛，不僅因為發動機越來越強，也因為剎車和道路規則不斷成熟。AI也會經歷同樣的階段：當它開始管理資金、基礎設施和現實裝置時，市場購買的就不只是智慧能力，還包括可控性和責任邊界。無法證明能夠停下來的系統，不可能真正獲得大規模信任。
《AI Kill Switch Act》仍處於提案階段，其定義、許可權範圍與政治可行性都可能在後續立法過程中發生變化。但它已釋放出清晰訊號：AI治理正在從“要求模型表現得更安全”轉向“要求開發者證明系統仍受人類控制”。未來真正值得信任的AI系統，不會以“永遠正確”作為安全承諾，而是承認模型可能誤判、資料可能被汙染、管理員可能犯錯，但即使所有環節都出了問題，系統仍然保留一層簡單、獨立且不可輕易繞過的最終約束。