英伟达的Vera CPU拿下了AI云服务商Modal的设计订单。Modal在初步评估中发现,Vera在其智能体AI工作负载上的吞吐量约为现有AMD和英特尔处理器的两倍,但Modal并不打算因此停用现有供应商的芯片。

Modal主要为AI开发者提供云基础设施,用于部署能在较长时间内自主执行复杂操作的AI智能体。这类工作负载需要大量CPU资源来完成软件执行、数据处理等GPU难以高效处理的任务。Modal目前完全依赖AMD和英特尔处理器,其测试表明英伟达Vera可能显著提升其特定工作负载的性能。

由于Vera基于Arm指令集架构,Modal采用它需要对软件做大量修改。但Modal认为性能提升足以抵消额外的工程投入。两倍的吞吐量优势尤其值得关注,因为智能体AI工作负载往往包含大量独立任务,这些任务会争抢CPU核心、缓存容量和内存带宽。不过,Modal未披露基准测试的具体配置、对比的AMD和英特尔处理器型号,也未提供每瓦性能数据。因此,Vera的优势究竟来自其基于Arm v9.2的Olympus核心(每周期最多可解码执行10条指令)、1.2 TB/s带宽的内存子系统,还是其他架构特性,目前尚不清楚。此外,测试对比的是当前市售的AMD和英特尔处理器,而非未来几年将与Vera竞争的新一代产品。

Modal首席执行官Erik Bernhardsson表示,公司无法在一夜之间将所有软件迁移到Arm架构,因此将继续使用AMD和英特尔的x86 CPU。Modal计划运营异构服务器集群,针对不同工作负载选择最合适的处理器,而非所有场景都锁定一种指令集。公司也打算在AMD和英特尔新品上市后进行评估,以决定未来选择。

对英伟达而言,这笔合作是Vera成为独立服务器处理器、争夺服务器市场份额的重要一步。英伟达预计Vera本财年销售额至少200亿美元,并估算这些CPU的潜在总市场规模约为2000亿美元。公司有望在2026财年出货至少400万颗Vera CPU。

此次合作宣布前不久,Modal刚完成由Accel领投的7.5亿美元融资,估值达157.5亿美元。Modal预计未来一年年收入将达到10亿美元。据路透社报道,过去12个月其服务消费量增长了3倍,收入较上年同期增长超过15倍。

从产业角度看,智能体AI的兴起正在改变算力结构。传统AI推理以GPU为主,但智能体需要长时间自主运行、频繁调用工具和处理数据,CPU承担的任务显著增加。英伟达凭借Vera切入服务器CPU市场,试图在GPU之外开辟新的增长极。不过,Arm架构在服务器软件生态中的成熟度、客户迁移成本以及AMD和英特尔下一代产品的竞争,都将影响Vera的实际渗透速度。Modal的异构策略也表明,云厂商更倾向于按工作负载匹配芯片,而非单一架构通吃,这为英伟达提供了切入点,但也意味着CPU市场的竞争将更趋多元。