Google DeepMind 于 11 月 10 日宣布,其研究团队利用名为 AlphaProof Code 的智能体框架,对 Signal 协议实际运行代码完成了形式化验证,数学证明其满足关键安全属性。这是 AI 首次以如此深度验证一个被广泛部署的加密协议,也是该协议实现代码首次被任何方法(无论是否借助 AI)形式化验证。
形式化验证指用数学方法证明代码正确、无缺陷,被视为安全保证的最高标准,但过程艰难且耗费人力。此前多数协议验证止步于设计层面,而真实漏洞往往藏在设计与实现之间的缝隙。DeepMind 的智能体则进一步证明,编译后的代码在设备上运行时仍满足关键安全属性,例如设备临时被攻破前后消息仍受保护。
AlphaProof Code 采用多 LLM 智能体框架,将验证工作按研究团队的方式拆分:人类专家与 AI 协作确定需要证明什么,再由一组 AI 智能体完成证明。研究人员先与多种模型合作,将 Signal 的安全目标转译为形式化数学规约,每条规约都经人类专家审核。随后,由 Gemini Carbon 驱动的智能体生成超过 600 万行 Lean 证明代码。Lean 是一种能数学验证代码准确性的计算机语言。接着,智能体对证明进行审计,标出仅约 1% 的代码库需要人工二次检查,大幅节省时间;其余部分由 Lean 自动检查。
整个验证过程仅耗时 四周,而历史上此类任务通常需要专家团队数年。为确认系统能区分正确代码与有缺陷代码,团队将两个已修复的真实漏洞重新引入隔离版本的 Signal 代码,系统均产出机器可检查的证明,表明缺陷版本不安全。
Signal 首席技术官 Ehren Kret 表示,以往形式化验证工作必然聚焦较小范围,而新方法能显著扩展范围;用 AI 智能体将实时代码自动转译为有效的 Lean 定理是一大突破。随着 AI 驱动的安全威胁增长,对 Signal 协议实现进行严格验证,让团队对代码的隐私保证更有信心。
DeepMind 认为,这一长期挑战的达成表明 AI 可为企业和政府及关键基础设施带来高等级安全保证,帮助抵御智能体驱动的网络威胁。验证 Signal 核心加密为保护医疗设备固件、电网软件等其他关键系统奠定基础。将此类技术与 CodeMender 等自动防御智能体结合,有望应对现代网络威胁的速度与规模。DeepMind 还宣布开源其形式化验证工件供社区使用。