輝達的Vera CPU拿下了AI雲服務商Modal的設計訂單。Modal在初步評估中發現,Vera在其智慧體AI工作負載上的吞吐量約為現有AMD和英特爾處理器的兩倍,但Modal並不打算因此停用現有供應商的晶片。
Modal主要為AI開發者提供雲基礎設施,用於部署能在較長時間內自主執行復雜操作的AI智慧體。這類工作負載需要大量CPU資源來完成軟體執行、資料處理等GPU難以高效處理的任務。Modal目前完全依賴AMD和英特爾處理器,其測試表明輝達Vera可能顯著提升其特定工作負載的效能。
由於Vera基於Arm指令集架構,Modal採用它需要對軟體做大量修改。但Modal認為效能提升足以抵消額外的工程投入。兩倍的吞吐量優勢尤其值得關注,因為智慧體AI工作負載往往包含大量獨立任務,這些任務會爭搶CPU核心、快取容量和記憶體頻寬。不過,Modal未披露基準測試的具體配置、對比的AMD和英特爾處理器型號,也未提供每瓦效能資料。因此,Vera的優勢究竟來自其基於Arm v9.2的Olympus核心(每週期最多可解碼執行10條指令)、1.2 TB/s頻寬的記憶體子系統,還是其他架構特性,目前尚不清楚。此外,測試對比的是當前市售的AMD和英特爾處理器,而非未來幾年將與Vera競爭的新一代產品。
Modal執行長Erik Bernhardsson表示,公司無法在一夜之間將所有軟體遷移到Arm架構,因此將繼續使用AMD和英特爾的x86 CPU。Modal計劃運營異構伺服器叢集,針對不同工作負載選擇最合適的處理器,而非所有場景都鎖定一種指令集。公司也打算在AMD和英特爾新品上市後進行評估,以決定未來選擇。
對輝達而言,這筆合作是Vera成為獨立伺服器處理器、爭奪伺服器市場份額的重要一步。輝達預計Vera本財年銷售額至少200億美元,並估算這些CPU的潛在總市場規模約為2000億美元。公司有望在2026財年出貨至少400萬顆Vera CPU。
此次合作宣佈前不久,Modal剛完成由Accel領投的7.5億美元融資,估值達157.5億美元。Modal預計未來一年年收入將達到10億美元。據路透社報道,過去12個月其服務消費量增長了3倍,收入較上年同期增長超過15倍。
從產業角度看,智慧體AI的興起正在改變算力結構。傳統AI推理以GPU為主,但智慧體需要長時間自主執行、頻繁呼叫工具和處理資料,CPU承擔的任務顯著增加。輝達憑藉Vera切入伺服器CPU市場,試圖在GPU之外開闢新的增長極。不過,Arm架構在伺服器軟體生態中的成熟度、客戶遷移成本以及AMD和英特爾下一代產品的競爭,都將影響Vera的實際滲透速度。Modal的異構策略也表明,雲廠商更傾向於按工作負載匹配晶片,而非單一架構通吃,這為輝達提供了切入點,但也意味著CPU市場的競爭將更趨多元。