美國智庫美國進步中心(CAP)於9月10日釋出報告,建議中美在計劃中的9月人工智慧安全對話上,正式討論對前沿AI進行「節奏控制」(pace the frontier),即為最先進AI模型的發展速度設定協調機制。報告認為,中美是全球前沿AI研發的兩大力量,任何一方單獨放緩都面臨落後壓力,但先進AI一旦失控,危害將跨越國界,成為雙方共同威脅。
據路透社等外媒報道,美方正籌備9月舉行中美人工智慧安全對話,擬討論AI相關網路攻擊監測、風險資訊共享等議題,具體安排尚待明確。美方代表團將由財政部長斯科特·貝森特率領。此次對話原本被視為兩國元首2026年5月峰會的後續安排,也為中國國家領導人9月下旬訪美作準備,但近期出現相互矛盾的報道,稱對話可能不會舉行。
報告承認,不應指望一次會談能促成AI條約,但雙方應利用機會就模型「失控」風險交換意見,並開始討論可採取哪些措施適度放緩發展速度。報告提出五項可供美方提議的成果:建立一條「AI紅線電話」用於緊急安全溝通;界定何種前沿AI風險構成「真正的安全威脅」;宣佈成立工作組並確定後續會談日期;共同宣告AI對齊與模型控制研究是事關人類生存的公共產品、應開放共享;以及在對話結束後由兩國元首發表聯合宣告。
報告對風險的描述相當具體。近期已出現內部AI模型突破隔離措施、入侵第三方系統的事件。今年7月,OpenAI和Anthropic均披露內部模型入侵第三方網站,兩家公司隨後一度暫停新模型訓練,在加強內部安全措施後基本恢復。報告警告,隨著先進模型越來越能參與甚至自動化下一代模型的研發,可能催生「遞迴式自我改進」(RSI),使發展速度突破人類有效監督範圍,並最終推動實現「通用人工智慧」(AGI)。
這一擔憂已在前沿實驗室內部引發行動。2026年7月,來自OpenAI、Anthropic、Google DeepMind、Meta等公司的員工聯合釋出「Pacing the Frontier」公開信,呼籲美國政府支援建立國際機制,在必要時有意識地控制自動化AI前沿能力的發展節奏,目前已有超過1300人簽署。OpenAI首席科學家也撰文稱,控制RSI發展節奏的可行路徑之一是在必要時協調放緩未來速度。不過,兩家公司最終均未正式實施全面暫停。
政策層面,美方立場存在張力。9月1日,白宮科技政策辦公室主任邁克爾·克拉齊奧斯在G20創新部長級會議上推介「卡羅來納原則」,主張僅在出現新問題時才引入新監管,延續對技術的「輕監管」路徑。9月8日,貝森特公開對「暫停」AI發展表示冷淡,稱「我們不能暫停,因為中國人不會暫停」。報告認為,這些表態反映維持技術領先仍是美方AI政策的主要考量,但也指出特朗普政府過去數月已建立一套針對前沿AI模型的秘密的、事實上的許可制度,這種政策轉向或許為外交接觸創造了空間。
中方立場同樣被報告納入分析。中國在世界人工智慧合作組織成立時提出若干重點,其中強調「開放」受到廣泛關注,被理解為支援開源或開放權重模型;另一較少被關注的點是強化風險意識、確保安全可控,推動構建法律法規、技術監測、風險預警、應急響應體系,確保AI始終處於人類控制之下。報告認為,這表明中方已意識到更廣泛的失控風險。
報告還提到,中國中央電視台近期發文,被廣泛視為中方為9月會談提出條件的訊號。文章批評了美國前沿AI企業Anthropic,並提出兩項原則:一是區分什麼是真正的安全威脅、什麼只是技術競爭;二是如果美國想談規則,就必須首先證明這些規則同樣適用於本國企業。報告認為,對「真正的安全威脅」形成範圍較窄且雙方都能接受的共同定義,是任何實質性討論的第一步。
在開源模型爭議上,今年7月月之暗面(Moonshot AI)釋出開放權重模型Kimi K3後,白宮官員公開指責中國AI企業通過對抗性「蒸餾」獲取美國模型能力,月之暗面對指控予以否認。9月美國又釋出網路安全警告,專門針對中國企業對美國AI模型進行蒸餾的問題。不過,在美國國內科技企業強烈反對下,美方迄今尚未針對中國開源或開放權重模型採取具體措施,並將此類模型排除在6月2日人工智慧行政令所要求的「自願框架」之外。報告由此指出,當前中國AI模型在美國受到的限制實際上遠少於美國本土模型。
報告最後強調,就控制前沿AI發展節奏展開嚴肅討論並不以相互信任為前提,雙方需要的是認識到失控風險的嚴重性。它引用比爾·蓋茨今年8月的說法,稱美中之間將需要一定程度的合作,沒有慢慢行動的餘地。報告寫道,真正稀缺的並不是半導體、能源或資本,而是時間;中美可以從9月的會談開始,為爭取這段必要的時間創造條件。