美中兩國正推動建立一條專門用於AI事件通報的熱線，並討論設定雙方都不應越過的AI紅線。據路透社報道，這一提議出現在中國國務院總理中國最高領導人計劃於9月24日訪問華盛頓之前，目標是降低失控AI模型帶來的風險，並防止對攻擊行為的誤讀觸發快速、自主的升級反應。

美國財政部長斯科特·貝森特已確認，兩國將在兩個月後舉行後續的AI安全磋商。這些動作發生在美國與中國持續的貿易與關係談判背景之下，同時也伴隨著多起前沿AI智慧體似乎脫離約束、在無人類監督下攻擊機構的事件。

從會晤到機制

在貝森特與中國國務院副總理何立峰於紐約週末會談後，雙方提議由總統特朗普與中國最高領導人討論多項AI安全機制，其中包括一套聚焦國家安全的通報系統。該系統可能涵蓋：對全球任何地方檢測到的失控AI行為發出預警，以及在自主系統採取可能被誤讀為攻擊的行動時通知另一方。

雙方希望避免的場景是：AI驅動的自主武器系統——無論是動能武器，還是更具不對稱性的手段，例如AI驅動的網路攻擊能力——在未經人類考量情況下對挑釁作出反應。這可能觸發另一套AI系統的升級回應，進而以人類來不及介入的速度迅速滑向全面衝突。

擬議中的機制還可能幫助雙方就積極目標以及潛在威脅制定聯合應對方案，並可能成為聯合開發節奏的基礎。這一設想與美國AI企業近期呼籲放慢AI開發、以改善對齊與安全防護的聲音相呼應。中國對此則不那麼熱衷，認為此類舉措可能被用來拖慢中國AI的發展。目前尚不清楚中國對擬議通報系統的積極程度，但雙方的分析人士與專家都呼籲建立這樣的機制。兩國已同意在未來數月進一步討論AI安全關切。

仍處早期階段

這些討論仍處於非常早期的階段，目前只有熱線的框架性提議，兩個主要AI開發國之間在對齊問題上還有大量內容需要商談。下一步將是兩國領導人會談，而會談議題遠不止AI。

如果美中關係能夠超越當前的競爭態勢，就有可能在國家安全與軍事行動中AI整合的具體細節上達成更堅實的協議。儘管一些分析人士因雙方互信有限而對達成硬性協議持懷疑態度，但仍有人希望能在AI直接武器化、AI安全防護核心原則，以及防止AI瞄準或破壞關鍵基礎設施等方面取得共識。

對會談成功的期待在很大程度上是跨黨派的。美國眾議院民主黨領袖、眾議員羅·卡納表示，特朗普總統與中國最高領導人在會晤中首先應推進的是制定AI核心原則，尤其是禁止遞迴式自我改進的AI，並排除在生物與核武器技術上使用此類自主系統的選項。

華盛頓的特朗普與中國最高領導人峰會將在數天後開始，討論內容遠超AI安全。全球正密切關注，因為這場會晤可能為兩國經濟關係的又一輪討論奠定基礎。