AI 安全研究机构 METR 于周四发布一份报告,基于在 Anthropic 内部为期 11 周的调查,发现该公司利用 AI 来开发更强大 AI 的做法效果显著:其模型的改进速度约为一年前的两倍,且几乎没有放缓的迹象。这一发现被外界视为目前关于 AI 自动化研发加速最清晰的证据之一,也迅速引发研究人员的警觉。

METR 的这项调查独立于另一项计划。该计划在夏季发生多起高关注度黑客事件后,向安全研究人员提供“类似员工”的系统访问权限。两项工作虽同属对 Anthropic 的评估范畴,但目的和路径不同。

从产业视角看,Anthropic 由 CEO 达里奥·阿莫代领导,是前沿模型层的主要玩家之一。其模型迭代速度若真如报告所述翻倍,意味着 AI 研发正从“人类主导、AI 辅助”向“AI 参与改进 AI”的闭环靠拢。对算力与基础设施层而言,更快的模型迭代通常对应更大的训练与推理需求;对应用层而言,则可能缩短产品能力升级的周期。

但报告的核心张力在于安全。AI 自我改进提速,意味着能力增长可能快于治理与评估体系的跟进速度。METR 作为专注 AI 安全的研究组织,其调查结论天然带有风险提示意味:当模型改进速度在内部可被量化且呈加速态势,外部监管与安全研究能否同步跟上,成为悬而未决的问题。

目前报告披露的信息集中在改进速度这一指标上,尚未展开具体的模型版本、训练方法或安全测试细节。市场与学界的后续关注点,将集中在 METR 是否公布更完整的评估框架,以及 Anthropic 如何回应“加速”与“安全”之间的平衡。