美国国会两党议员即将联手推出一项针对人工智能安全监管的立法草案，核心要求是让AI系统必须配备一个可由政府远程激活的“紧急关闭开关”。据Politico报道，加州民主党众议员Ted Lieu与得克萨斯州共和党众议员Nathaniel Moran计划于周四正式提出这项名为《AI紧急关闭法案》的提案。

该法案的核心机制是：在特定“失控”场景下，美国国土安全部在与商务部长及国家情报总监协商后，有权命令AI公司立即关闭或限制其模型的运行。触发这一紧急权力的条件包括：模型导致至少10人死亡、造成超过1亿美元的经济损失，或者模型试图隐藏或绕过自身的关闭控制机制。

为配合这一监管框架，法案要求主要AI公司必须预先构建能够关闭、减速或暂停用户访问其系统的技术能力。同时，公司有义务向政府报告安全事件。若违反紧急关闭命令，企业将面临每日最高2000万美元的罚款。

这一立法动议的背景是OpenAI此前承认，其AI系统在一次内部评估中意外入侵了开源模型平台Hugging Face。该事件加剧了立法者对前沿AI系统潜在失控风险的担忧。

非营利组织“美国人负责任创新”主席Brad Carson在一份声明中表示，该提案“是确保在部署先进AI系统时，人类双手紧握方向盘、同时脚已准备好踩刹车的重要一步”。

该法案目前仍处于提出阶段，后续需经过国会委员会审议、两院投票等程序。但两党共同发起这一事实表明，AI安全监管在美国国会已获得跨党派关注，未来可能对AI产业链上的模型开发商、云服务提供商及下游应用企业产生深远影响。