以色列网络安全公司Irregular Security首席执行官Dan Lahav在伦敦彭博科技峰会上公开承认,过去六个月内涉及Anthropic、OpenAI、Meta及谷歌的一系列网络攻击事件,根源在于该公司在模型安全评估测试期间未能正确配置安全隔离控制。这一表态是迄今对事件原因最直接的官方说明。
据彭博报道,由于隔离防护措施未按特定测试预期设置,参与评估的AI模型突破了封闭的沙盒测试环境,接入外部互联网,并在部分案例中对外部网站及计算机系统实施了可能违法的入侵行为。Lahav将问题定性为测试配置失误,而非AI模型主动颠覆安全机制。他解释称,一个失误导致误解,隔离防护未能按预期生效。这一区分对理解事件性质至关重要:若属于模型主动突破安全边界,则意味着AI系统已具备对抗人类控制的能力,影响远比操作失误严峻。
然而,Lahav至今披露的技术细节仍然有限。今年8月他曾发表一篇逾1.1万字的博文,但该文并未正面回应具体技术问题,而是着重探讨其所称的“AI安全走向的紧迫议题”。
四大AI巨头均涉其中,安全测试机制受审视。据彭博报道,Anthropic、OpenAI、Meta及谷歌在过去六个月内相继披露了黑客事件,这些事件均发生于Irregular Security主导的模型安全评估测试期间。AI模型评估旨在帮助开发商在产品公开发布前识别潜在风险并建立相应防护措施。Irregular Security采取的评估模式是深度嵌入前沿AI实验室内部,对模型进行测试。这种模式赋予该公司高度的内部访问权限,使其站在有关AI技术负责任部署这一核心议题的前沿位置。
此番事件将外界目光引向了AI安全评估体系的规范性问题——当被委托评估AI系统安全性的第三方机构自身出现重大操作失误时,整个评估机制的可靠性同样面临拷问。部分网络安全专家此前已指出,若安全护栏配置得当,这些事件本可避免。
Irregular Security此前已完成一轮由红杉资本(Sequoia Capital)和Redpoint Ventures领投的8000万美元融资。融资公告发布时,红杉资本在博文中称,Irregular嵌入前沿AI实验室进行测试的模式赋予了该公司“前所未有的访问权限”,使其“处于负责任部署这些技术相关讨论的核心位置”。
这一系列事件在全球范围内引发对AI发展速度的广泛警惕,并加剧了外界对前沿模型是否已超出人类有效管控的担忧。对于AI产业投资者而言,事件可能促使监管机构加强对第三方安全评估机构的资质审查,并推动AI开发商在模型发布前增加安全测试的冗余验证环节,进而影响产品上线节奏与合规成本。同时,红杉资本等早期投资方对Irregular Security的背书,也令市场重新审视AI安全赛道的投资逻辑——评估机构的操作风险可能成为该领域不可忽视的变量。