OpenAI在7月底解散了其“准备”团队,该团队原本负责评估公司AI模型可能带来的严重或灾难性风险。据英国《金融时报》援引内部消息人士报道,这一团队的工作已被分散至现有的其他团队,其中生物与网络风险相关的工作被划归既有部门。前团队负责人Dylan Scandinaro现在专注于“递归自我改进”AI的安全风险,这类系统能够自我优化并训练其他模型。OpenAI联合创始人Greg Brockman表示,公司已将安全工作更紧密地融入模型开发流程之中。
近期,多名安全人员离开了OpenAI,其中包括首席伦理官Chloe Bakalar和Joshua Achiam。这些离职事件加剧了外界对OpenAI安全承诺的质疑。内部的不安情绪也在升温,一位消息人士形容公司内部存在一种“咕嘟冒泡的责任感与恐惧感”,担心OpenAI在安全方面做得不够。员工们也开始公开表达担忧,尤其是在Hugging Face遭遇自主黑客攻击事件之后。一位员工表示,他希望OpenAI能将这一事件视为“警告信号”。
这一组织变动正值AI安全成为行业焦点之际。OpenAI作为领先的AI研究机构,其安全团队的解散可能引发对前沿模型风险管控的担忧。尽管公司强调安全已融入模型开发,但批评者认为,独立的专门团队对于识别和防范极端风险至关重要。此次调整是否会影响OpenAI未来的安全实践,以及行业对AI安全治理的信心,仍有待观察。