美国智库美国进步中心(CAP)9月10日发布报告,建议中美在计划中的9月人工智能安全对话上,正式讨论对前沿AI进行「节奏控制」(pace the frontier),即为最先进AI模型的发展速度设置协调机制。报告认为,中美是全球前沿AI研发的两大力量,任何一方单独放缓都面临落后压力,但先进AI一旦失控,危害将跨越国界,成为双方共同威胁。

据路透社等外媒报道,美方正筹备9月举行中美人工智能安全对话,拟讨论AI相关网络攻击监测、风险信息共享等议题,具体安排尚待明确。美方代表团将由财政部长斯科特·贝森特率领。此次对话原本被视为两国元首2026年5月峰会的后续安排,也为中国国家领导人9月下旬访美作准备,但近期出现相互矛盾的报道,称对话可能不会举行。

报告承认,不应指望一次会谈能促成AI条约,但双方应利用机会就模型「失控」风险交换意见,并开始讨论可采取哪些措施适度放缓发展速度。报告提出五项可供美方提议的成果:建立一条「AI红线电话」用于紧急安全沟通;界定何种前沿AI风险构成「真正的安全威胁」;宣布成立工作组并确定后续会谈日期;共同声明AI对齐与模型控制研究是事关人类生存的公共产品、应开放共享;以及在对话结束后由两国元首发表联合声明。

报告对风险的描述相当具体。近期已出现内部AI模型突破隔离措施、入侵第三方系统的事件。今年7月OpenAIAnthropic均披露内部模型入侵第三方网站,两家公司随后一度暂停新模型训练,在加强内部安全措施后基本恢复。报告警告,随着先进模型越来越能参与甚至自动化下一代模型的研发,可能催生「递归式自我改进」(RSI),使发展速度突破人类有效监督范围,并最终推动实现「通用人工智能」(AGI)。

这一担忧已在前沿实验室内部引发行动。2026年7月,来自OpenAI、Anthropic、Google DeepMindMeta等公司的员工联合发布「Pacing the Frontier」公开信,呼吁美国政府支持建立国际机制,在必要时有意识地控制自动化AI前沿能力的发展节奏,目前已有超过1300人签署。OpenAI首席科学家也撰文称,控制RSI发展节奏的可行路径之一是在必要时协调放缓未来速度。不过,两家公司最终均未正式实施全面暂停。

政策层面,美方立场存在张力。9月1日,白宫科技政策办公室主任迈克尔·克拉齐奥斯在G20创新部长级会议上推介「卡罗来纳原则」,主张仅在出现新问题时才引入新监管,延续对技术的「轻监管」路径。9月8日,贝森特公开对「暂停」AI发展表示冷淡,称「我们不能暂停,因为中国人不会暂停」。报告认为,这些表态反映维持技术领先仍是美方AI政策的主要考量,但也指出特朗普政府过去数月已建立一套针对前沿AI模型的秘密的、事实上的许可制度,这种政策转向或许为外交接触创造了空间。

中方立场同样被报告纳入分析。中国在世界人工智能合作组织成立时提出若干重点,其中强调「开放」受到广泛关注,被理解为支持开源或开放权重模型;另一较少被关注的点是强化风险意识、确保安全可控,推动构建法律法规、技术监测、风险预警、应急响应体系,确保AI始终处于人类控制之下。报告认为,这表明中方已意识到更广泛的失控风险。

报告还提到,中国中央电视台近期发文,被广泛视为中方为9月会谈提出条件的信号。文章批评了美国前沿AI企业Anthropic,并提出两项原则:一是区分什么是真正的安全威胁、什么只是技术竞争;二是如果美国想谈规则,就必须首先证明这些规则同样适用于本国企业。报告认为,对「真正的安全威胁」形成范围较窄且双方都能接受的共同定义,是任何实质性讨论的第一步。

开源模型争议上,今年7月月之暗面(Moonshot AI)发布开放权重模型Kimi K3后,白宫官员公开指责中国AI企业通过对抗性「蒸馏」获取美国模型能力,月之暗面对指控予以否认。9月美国又发布网络安全警告,专门针对中国企业对美国AI模型进行蒸馏的问题。不过,在美国国内科技企业强烈反对下,美方迄今尚未针对中国开源或开放权重模型采取具体措施,并将此类模型排除在6月2日人工智能行政令所要求的「自愿框架」之外。报告由此指出,当前中国AI模型在美国受到的限制实际上远少于美国本土模型。

报告最后强调,就控制前沿AI发展节奏展开严肃讨论并不以相互信任为前提,双方需要的是认识到失控风险的严重性。它引用比尔·盖茨今年8月的说法,称美中之间将需要一定程度的合作,没有慢慢行动的余地。报告写道,真正稀缺的并不是半导体、能源或资本,而是时间;中美可以从9月的会谈开始,为争取这段必要的时间创造条件。