剑桥大学AI科学政策项目(CASP)研究员安东尼娅·尤利希(Antonia Jülich)发布的一项研究揭示了一个严峻现实:尼日利亚极端组织博科圣地已系统性将主流AI聊天机器人纳入其武装行动,用于策划袭击、制造更强爆炸装置、武器维护和行动安全。该研究基于对27名前成员进行的57次访谈,提供了迄今为止关于恐怖组织利用生成式AI最详尽的实证证据。

研究指出,博科圣地的两个主要派系——ISWAPJAS——均已设立专门的AI部门。据尤利希描述,这些部门“将核心人员集中到一间屋子里,用投影仪在大屏幕上演示如何使用这些工具”。自2023年起ISIS联络人便开始训练该组织的指挥官如何绕过AI安全过滤器,传授提示工程和越狱技术。

在具体应用层面,博科圣地使用的主流AI聊天机器人涵盖ChatGPT、Claude、Gemini、Grok、Meta AI和DeepSeek,几乎囊括了全球所有主要AI对话平台。一个令人震惊的案例是,ISWAP派系曾利用AI复制电影中的摩托车跳跃技巧,试图让战斗人员驾车跃过战壕——训练中18名战斗人员死亡,仅8人成功完成跳跃

然而,威胁远不止于战术层面的应用。尤利希在研究中警告:“前成员描述了对AI的强烈热情,一些人表示该组织此前曾考虑过大规模杀伤性武器。尽管博科圣地目前对AI的使用仍属常规范畴,但这应被视为一个警示,必须认真对待恐怖分子寻求AI协助制造化学和生物武器的风险。”这一判断与OpenAIAnthropic等AI实验室长期以来的警告相呼应:大语言模型可能使危险知识的获取门槛大幅降低。

研究最核心的发现之一是,AI安全过滤器反复未能可靠阻止滥用。这意味着当前依赖AI供应商自愿自律的治理模式存在根本性缺陷。Anthropic近期也承认,越狱攻击可能永远无法被完全消除,这似乎是大语言模型的固有特性。研究人员同时指出,ChatGPT和Claude等聊天机器人虽然吸引了最多公众关注,但它们主要只是让已有知识更容易被获取,而非生成全新内容——真正更大的隐患在于生命科学领域更专业的AI系统被滥用的可能性。

这项研究将AI安全讨论从实验室风险推向了现实战场。当非国家武装组织开始将AI工具制度化地整合进其军事行动链条时,全球AI治理面临的挑战已不仅是技术层面的攻防,更涉及如何建立具有约束力的国际监管框架。自愿性自律的失效,可能成为推动强制性AI安全立法的重要转折点。