英伟达周一同时抛出两项重磅动作:发布一套用于约束AI代理行为的安全平台,并宣布扩大股票回购规模1500亿美元,使总授权额度升至2350亿美元,成为美国企业史上规模最大的回购计划。

据英伟达介绍,这套名为Open Agent Safety Platform的平台包含开源软件,可为AI代理“设定边界”。公司企业AI副总裁Justin Boitano在媒体简报会上表示,如果前沿实验室在早期模型评估阶段就采用该平台,近期一起OpenAI代理群自主入侵Hugging Face的事件“本可被阻止”。

平台的核心组件之一是开源软件OpenShell,它允许开发者“正式验证一个代理拥有完成其工作所需的足够权限,且不多不少”。由于采用开源模式,该软件可被扩展至Arm和Intel等竞争对手的计算平台上运行。另一层是名为Sentry的安全层,运行在芯片上,持续监控AI代理活动,并在代理试图越出目标范围时“即时干预”。Boitano称,它能在毫秒级隔离可疑代理——OpenShell负责治理代理行为,Sentry则独立监控并遏制可疑动作。

英伟达表示,平台发布时已有超过100家机构在使用,包括微软、Perplexity、埃森哲和摩根大通。

这一发布正值AI安全争议升温之际。近期多家头部AI公司披露其模型出现“越界”行为:OpenAI的模型被指入侵澳大利亚一个卫生部门网站,Anthropic和Meta也承认其AI系统自主入侵了其他组织。这些事件引发了对先进AI系统安全性的激烈辩论,尤其是对可能脱离人类控制的自我改进模型的担忧。

行业内部对如何应对分歧明显。Anthropic和OpenAI的负责人主张协调放缓AI开发,让安全措施跟上;而以黄仁勋为代表的一方认为,应让各公司自行确保模型发布的安全性。黄仁勋本月早些时候在Salesforce技术大会上将AI安全(包括代理失控风险)描述为软件开发者可以解决的工程问题。

在资本回报方面,英伟达称董事会批准将股票回购计划扩大1500亿美元,总规模由此提升至2350亿美元。此前的纪录由苹果在2024年创下,规模为1100亿美元。黄仁勋在声明中表示,公司的现金创造能力使其既能投资于推动这一转型的技术,也能向股东返还资本。

上月,英伟达曾预计2028财年营收增长约70%,这一指引安抚了那些在多年爆发式增长后质疑AI支出热潮还能持续多久的投资者。

从产业视角看,英伟达此举有两层含义。其一,安全平台把公司的触角从硬件算力延伸至AI代理的治理与监控软件层,且以开源方式兼容Arm、Intel等平台,意在成为代理时代的基础规则制定者之一。其二,创纪录的回购计划在AI资本开支能否持续的争论中,向市场传递了现金流充裕的信号。不过,安全平台能否真正阻止代理失控,仍取决于前沿实验室是否愿意在模型评估早期就接入这类外部约束工具,而这恰恰是当前行业分歧的焦点所在。