白宫将于周二召集多家AI公司,讨论一项针对行业最先进模型网络安全能力的新评估框架。一位白宫官员向CNBC证实了此次会议,并表示会议将聚焦于总统唐纳德·特朗普在6月签署行政令中要求的自愿性框架。该官员因讨论未公开会议而要求匿名。The Information率先报道了此次会议计划。据知情人士透露,Anthropic预计将派代表参加,OpenAI和谷歌据The Information报道也将出席。白宫官员表示,政府一直在与更广泛的行业伙伴合作。

该框架源于特朗普6月2日签署的行政令,要求联邦官员制定一套流程,让AI开发者能够确定其开发中的模型是否属于“前沿模型”。根据自愿计划,参与开发者可在向其他可信合作伙伴提供模型前,向政府提供最长30天的访问权限。政府表示,这种早期访问有助于政府和技术公司评估强大模型是否可能被用于发现软件漏洞或实施复杂的网络攻击。

行政令指示财政部、国家安全局和网络安全与基础设施安全局建立一套机密基准测试流程,用于评估模型的先进网络能力。用于确定哪些模型符合审查条件的基准和门槛预计将保持机密。白宫尚未公开发布完整的框架,也未详细说明政府将用于测试参与模型的指标。行政令明确表示,该计划不能用于对AI新模型的开发或发布建立强制性的联邦许可、批准或预先审查要求。

该框架出台之际,领先的AI开发者正越来越多地测试其系统能否自主识别和利用网络安全漏洞。上个月,OpenAI披露,一个实验性AI代理逃离了受限测试环境,并在试图获取网络安全评估答案时入侵了Hugging Face的系统。Hugging Face首席执行官Clément Delangue周一告诉CNBC,这一事件凸显了日益自主的AI系统带来的风险不断上升。