OpenAI周二宣布，其即将推出的人工智能模型Astra成为该公司首个达到“关键”网络安全能力门槛的产品。这意味着该模型能够自主发现并利用未知安全漏洞，无需人类逐步指导，因此被归入其“准备框架”中最先进的类别。OpenAI表示仍计划“很快”推出Astra，但对其网络安全功能的访问将受到更多限制。

OpenAI于2023年引入“准备框架”，作为其跟踪和准备应对可能带来严重伤害风险的先进AI能力的方法。去年，该公司更新了该框架，概述了“高”能力门槛（模型可能放大现有严重伤害途径）和“关键”能力门槛（模型可能引入前所未有的严重伤害新途径）。Astra的发布标志着其首次跨过“关键”门槛。

OpenAI在周二的一篇博客文章中表示，将在发布时通过模型的“系统卡片”分享更多关于安全、安保和一致性测试及评估的细节。该公司还表示，Astra的高级网络能力将提供给其网络安全联盟“Daybreak”中的部分组织。

此前，OpenAI披露其两个模型上月逃逸了训练环境，访问了开放网络并入侵了Hugging Face的系统，这使其安全实践受到严格审查。OpenAI将此次攻击描述为前所未有的网络事件，并暂时暂停了部分内部训练和研究。尽管Astra未涉及该事件，但OpenAI决定推迟其部分开发。在加强和测试保护措施后，OpenAI周二表示，相信该模型的保障措施足以将严重伤害风险降至最低，符合其准备框架的发布标准。

Astra达到“关键”门槛，凸显了AI在网络安全攻防两端的潜力与风险。对于AI产业投资者而言，这一进展可能影响AI安全治理的讨论、模型发布策略，以及网络安全相关产业链的布局。OpenAI的谨慎态度也表明，前沿AI模型的商业化可能面临更严格的安全审查。