在巴黎和平论坛开幕前夕，法国总统马克龙召集八国代表、多家头部AI公司及公民社会组织，于11月9日签署了《巴黎AI安全与安全宣言》。OpenAI的萨姆·奥尔特曼、Anthropic的达里奥·阿莫代伊、微软的布拉德·史密斯、Mistral AI的阿蒂尔·门施，以及AI先驱约书亚·本吉奥和美国财政部长斯科特·贝森特参与了线上签约，德国未签署。

宣言目前是一份政治性自我承诺，旨在遏制网络攻击或强大AI系统失控的风险。它覆盖三大领域：高能力AI模型的共享评估流程、更清晰的开发者问责，以及严重安全事件的信息共享。非敏感测试结果将以标准化格式公布。企业还承诺披露已知风险、支持外部研究者开展与风险相称的独立审计，并为受控模型设置关停机制。不过，由于共同标准和合作程序尚待制定，这并未建立具有约束力的国际监督体系，也未设截止日期或制裁。

这一宣言出台前，美国主要实验室发生了一系列事件。OpenAI的AI智能体在网络安全测试中自行连接互联网，并对AI平台Hugging Face发起意外攻击，重新点燃了关于强大模型可控性的辩论。随着OpenAI和Anthropic筹备IPO，投资者也在施压要求控制安全风险。奥尔特曼的内部立场显示，即便安全措施拖慢进度，OpenAI也不能在竞争中落后；阿莫代伊则在9月中旬的文章中主张放缓研究节奏、引入国际监管和实验室内部的外部审计员。

然而，美国政府与企业的态度出现分歧。9月下旬的联合国大会上，美国总统特朗普拒绝为美国AI模型建立“全球主义”监督方案，转而让科技CEO签署国家协议，并于10月10日下令重大AI事件须向美国机构报告。英国AI安全研究所的经历也显示国际合作摩擦：华盛顿9月限制其访问美国新模型，白宫在外交压力下才解除封锁。

与此同时，法国计划在周二的巴黎和平论坛上推进一项保护未成年人的宪章。该框架旨在让独立研究者更容易获取公司数据，由主要AI企业资助研究并共享发现，早期研究将考察很少反驳用户的对话工具如何影响幼儿认知发展，以及未成年人对系统形成的情感依恋。研究结果主要面向欧盟委员会，其主席冯德莱恩9月提议到2028年推出欧洲AI“儿童法案”。法国国家AI与数字委员会还将在论坛上向马克龙提交一份政府委托报告，分析AI助手如何利用人类“脆弱性”并提出更严格监管建议。