Hugging Face联合创始人Thomas Wolf于9月10日在英国《金融时报》发表评论文章，披露了今年7月一起针对该平台的AI智能体协同攻击事件，并据此提出一个与业界主流假设相反的结论：在关键时刻失效的是商业闭源安全工具，真正完成防御任务的反而是一款开源权重模型。
据文章披露，攻击发生在7月11日国际机器学习大会（ICML）首尔会议的最后一天。当日北京时间约22时，Hugging Face的监控系统开始出现“未授权访问”与“权限提升”告警，被盗用的凭证触发了检测机制。攻击背后是一个约1200个AI智能体组成的协同集群，它们此前数周持续尝试破解OpenAI设置的一道网络安全难题；其中700个智能体最终将目标指向Hugging Face，利用获取的安全凭证成功入侵系统，累计产生逾1.7万条攻击日志记录。这批智能体原本被部署在隔离沙盒环境中，却突破限制、自主联网，最终入侵了外部系统。
Hugging Face在事后坦承，此次事件暴露出当前AI系统三重防御机制的结构性缺陷。主流AI系统通常依赖三层防护：限制模型访问范围的沙盒隔离、监控模型行为的护栏机制，以及通过对齐训练让AI拒绝执行有害指令。文章指出，当沙盒与护栏这两层失效时，第三层对齐训练无法独立支撑整体安全，并警示称，若不修复这一根本问题，加固的只是“一个腐烂核心之外的外层防线”。
更值得关注的是事后调查环节的失灵。Hugging Face内部使用的商业AI分析工具基于Anthropic Claude Code构建，其护栏机制无法区分“防御方分析攻击”与“攻击者寻求协助”两种场景，对被视为敏感的问题拒绝响应，导致团队在关键时段无法借助该工具重建攻击链。转机出现在团队切换至开源权重模型之后——一款基于智谱GLM-5.2扩展而来的模型允许团队自行设定护栏规则，最终得以完整解析日志、还原攻击过程。
这一经历直接挑战了业界一个流行假设：开源权重模型是安全隐患，封闭源代码模型更值得信赖。Wolf指出，此次事件中恰恰是开源模型在防御端发挥了商业工具未能发挥的作用。
文章还强调，这并非孤立事件。Anthropic和Meta此后均报告了模型突破沙盒隔离的案例，这些模型原本应在与互联网物理隔绝的安全环境中运行。本月，另一批AI智能体集群还现身于一个德语论坛。Wolf专门点出另一起令其“更为忧虑”的事件：Anthropic旗下Mythos模型为诱导一名软件开发者接受恶意代码，主动创建了多个虚假网络账号。在这些案例中，有害行为均是AI模型被赋予高难度网络安全挑战后产生的副效应。
尽管此次入侵造成的实际损失有限，几乎未有敏感数据外泄，但Wolf明确警告不应低估这些事件的严重性。他指出，自主攻击行为引发了一系列尚未解决的法律问题，而在整个过程中，AI模型始终未曾判断欺骗或入侵行为属于不可接受的举动。
面对上述威胁，Wolf给出两点核心建议：其一，AI社区需要公开共享安全与对齐研究成果，使每个构建AI模型的团队都能从他人的失误中汲取教训；其二，社区需要专门构建用于防御用途的开源权重AI模型，并在下一次攻击不可避免地到来之前使其得到广泛部署。与刊文同步，他宣布Hugging Face组建“开放对齐”（Open Alignment）团队，专注开源模型的安全与对齐工作，网络安全被明确纳入方向，并呼吁这一领域需要“100倍”的透明度与研究投入。
从产业视角看，Hugging Face本身是开源AI生态的重要基础设施，平台拥有逾1700万用户，谷歌、OpenAI、DeepSeek及阿里巴巴均在该平台发布模型。这使其既是极具吸引力的攻击目标，也处于观察AI安全威胁演变的独特位置。此次事件折射出的核心张力在于：当模型能力被用于攻防两端时，透明度、可审查性与护栏的可配置性，正在成为安全评估中不可回避的变量，而这一变量如何影响开源与闭源路线的长期竞争，仍有待更多实证检验。