輝達CEO黃仁勳在2024年GTC大會上首次提出“超節點”概念，將36個Grace CPU和72個Blackwell GPU整合進一個液冷機櫃，形成一台“超級計算機”。這一設計打破了傳統“8卡一伺服器”的節點模式，通過高速互聯技術將大量GPU和CPU從多台伺服器的協作整合為單個物理節點，旨在解決大模型訓練中的通訊、功耗和運維複雜度問題。
黃仁勳的“超節點”概念最初並未迅速成為風口，甚至因散熱問題導致NVL72系列推遲交付，被部分媒體質疑。然而，隨著巨頭們對千卡、萬卡乃至百萬卡AI叢集的需求爆發，超節點逐漸成為算力競爭的核心。馬斯克曾為xAI加價插隊下單1600台GB200 NVL72伺服器機櫃，並與甲骨文董事長拉里·埃裡森一起請黃仁勳吃飯，但黃仁勳後來闢謠稱，他們從未求過GPU，只需正常下單即可。
在中國，華為在黃仁勳提出超節點一年後，釋出了自家的CloudMatrix 384超節點，由14個機櫃連線384張卡，卡數是NVL72的5倍多，佔地面積是其16倍。據SemiAnalysis拆解，單個CloudMatrix 384叢集的BF16效能總體是NVL72的1.7倍，總記憶體容量是NVL72的3.6倍，總記憶體頻寬為後者的2.1倍。這種以量取勝的方式，為國產算力提供了彎道超車的可能。
超節點的興起源於多重壓力。一方面，摩爾定律逼近極限，單顆晶片效能提升放緩；另一方面，大模型引數規模以每年10倍的速度增長，邁入十萬億級階段，算力需求持續推高。傳統算力叢集採用橫向擴充套件（Scale Out）方式，通過乙太網路連線大量AI伺服器，但面臨通訊瓶頸、功耗飆升和運維複雜度三大挑戰。例如，Meta在訓練Llama 3時，54天內16384個H100顯示卡叢集共出現419次意外故障，平均每三小時一次。超節點通過縱向擴充套件（Scale Up），將分散的晶片整合為一個邏輯統一的“超級大晶片”，實現低延遲、高頻寬的協同計算，顯著縮短訓練週期並降低運維難度。
對國產廠商而言，超節點更是務實的選擇。由於單顆晶片效能與輝達仍有差距，國產算力通過堆卡數和最佳化互聯，以系統效率彌補單卡不足。摩爾線程副總裁馬鑑表示，通過系統上的提升去對標國際先進的超大規模叢集，訓練出同樣先進的模型。國產晶片廠商借此繫結上下游產業鏈生態，從“能用”走向“好用”。
國產大模型廠商也積極擁抱超節點。月之暗面的Kimi K3模型部署在64張平頭哥真武M890組成的超節點上，阿里雲在Day0就適配了該模型。Kimi的技術報告指出，大模型Scaling不僅存在於預訓練階段，後訓練和推理階段同樣需要大量算力，超節點成為支撐模型智慧提升的關鍵。阿里、百度等全棧廠商則通過晶片為模型定製、模型反哺晶片迭代，並將超節點以雲服務形式按詞元呼叫。
國產伺服器廠商同樣受益。輝達上一代GB200 NVL72售價約300萬美元，新一代Vera Rubin NVL72單櫃物料成本攀升至780萬美元。超節點交付從單台到整櫃，伺服器廠商需完成整機櫃整合、Scale-up組網、供電與結構件、上架聯調等系統級交付，工程複雜度提升，利潤空間也隨之擴大。據大摩研究報告，Rubin時代ODM的附加值將增加35-40%。鴻海等廠商甚至從“買斷制”轉向“寄售制”，代工廠無需大額墊資備貨。
然而，超節點的大規模落地仍面臨多重挑戰。首先是互聯協議生態的割裂。輝達的NVLink在2014年推出，去年新增NVLink Fusion，允許第三方廠商定製CPU或加速器，但每個節點仍需包含至少一顆輝達晶片。AMD主導的UALink成立於2024年，參與者包括AWS、谷歌、英特爾、博通、Meta、微軟等。博通在2025年釋出自家協議SUE，將乙太網路優勢引入Scale Up領域。國內方面，華為2019年釋出靈衢（UnifiedBus），海光去年12月聯合多家廠商釋出HSL 1.0規範，中國移動、阿里雲、字節跳動等也釋出了各自的Scale Up開放協議。協議眾多且由巨頭主導，導致行業早期生態鬆散。
其次是物理介質的技術路線分化。電互連（銅纜）便宜、功耗低，但傳輸距離受限；光互連（光纜）能遠距離傳輸，但硬體造價高，光模組產生額外功耗。輝達聯手台積電押注CPO（光電共封裝）技術，中國信通院將演進路徑概括為NPO過渡商用、CPO成為主流、OIO成為終極形態。
供電和冷卻也是關鍵難題。AI的盡頭是算力，算力的盡頭是電力。超節點作為“吞電獸”，需要更先進的供電架構和風液混合、全液冷系統。此外，上游國產晶片端的晶圓廠產能能否持續兌現，同樣關乎超節點的規模化落地。
儘管超節點被視為被逼出來的創新和務實選擇，但距離真正掀翻輝達的牌桌，仍有很長的路要走。