Perplexity 執行長 Aravind Srinivas 在 9 月 4 日接受 CNBC 採訪時表示,大型銀行正要求部署可以物理斷開網際網路連線的 AI 系統,這一需求可能改變未來數萬億美元 AI 算力建設的地點。Srinivas 指出,摩根士丹利和摩根大通等機構希望採用“氣隙”(air-gapped)的本地部署方式,在自有裝置上執行模型和智慧體,以防止智慧財產權洩露給前沿實驗室。他提到的硬體是輝達的 DGX Spark,一款面向本地推理的桌面級裝置。
Srinivas 認為,僅靠資料中心無法支撐 AI 的下一階段發展。他舉例說,如果十億人需要執行全天候的智慧體,將需要太瓦級的電力和大量記憶體,這無法僅通過資料中心實現。他提出的解決方案是混合架構:將隱私敏感的工作負載放在本地硬體上,同時保留對雲端前沿模型的訪問。他強調,現有裝置、辦公室和家庭中還有大量未用於 AI 推理的算力資源。
輝達首席財務官 Colette Kress 在 Q2 FY27 財報電話會上透露,按過去 12 個月計算,汽車垂直領域的本地部署收入達到 80 億美元,而金融服務業、製造業和醫療保健合計貢獻了 70 億美元。她還提到 Hudson River Trading 和 Jane Street 等交易公司正在輝達 AI 工廠上執行量化工作負載。Kress 表示,非超大規模客戶類別,包括主權 AI、區域 neocloud、企業邊緣和氣隙資料中心,將約佔資料中心業務的一半。
輝達同時在為集中式和分散式兩端提供資金支援。公司已聯合 Apollo、貝萊德、黑石、Brookfield、高盛和 KKR 等機構,動員超過 5000 億美元用於集中式 AI 基礎設施。此外,其機密計算 GPU 為蘋果的 Private Cloud Compute 提供支援,該混合架構可在裝置和伺服器上執行。
輝達 CEO 黃仁勳在 Q2 FY27 電話會上表示,輝達是一個“完整的 AI 工廠平台”,客戶可以在任何雲或任何地方使用。如果工作負載遷移到本地,輝達仍可銷售晶片。該公司股價過去一年上漲 35%,年初至今上漲 21.7%。Q3 FY27 營收指引為 1080 億美元(±2%)。市場關注的問題是,本地部署的轉變是否會壓縮超大規模資料中心的資本開支,或通過不同 SKU 繼續貢獻收入。輝達正押注其晶片仍將為這些本地機器提供動力。