英伟达CEO黄仁勋在2024年GTC大会上首次提出“超节点”概念，将36个Grace CPU和72个Blackwell GPU整合进一个液冷机柜，形成一台“超级计算机”。这一设计打破了传统“8卡一服务器”的节点模式，通过高速互联技术将大量GPU和CPU从多台服务器的协作整合为单个物理节点，旨在解决大模型训练中的通信、功耗和运维复杂度问题。
黄仁勋的“超节点”概念最初并未迅速成为风口，甚至因散热问题导致NVL72系列推迟交付，被部分媒体质疑。然而，随着巨头们对千卡、万卡乃至百万卡AI集群的需求爆发，超节点逐渐成为算力竞争的核心。马斯克曾为xAI加价插队下单1600台GB200 NVL72服务器机柜，并与甲骨文董事长拉里·埃里森一起请黄仁勋吃饭，但黄仁勋后来辟谣称，他们从未求过GPU，只需正常下单即可。
在中国，华为在黄仁勋提出超节点一年后，发布了自家的CloudMatrix 384超节点，由14个机柜连接384张卡，卡数是NVL72的5倍多，占地面积是其16倍。据SemiAnalysis拆解，单个CloudMatrix 384集群的BF16性能总体是NVL72的1.7倍，总内存容量是NVL72的3.6倍，总内存带宽为后者的2.1倍。这种以量取胜的方式，为国产算力提供了弯道超车的可能。
超节点的兴起源于多重压力。一方面，摩尔定律逼近极限，单颗芯片性能提升放缓；另一方面，大模型参数规模以每年10倍的速度增长，迈入十万亿级阶段，算力需求持续推高。传统算力集群采用横向扩展（Scale Out）方式，通过以太网连接大量AI服务器，但面临通信瓶颈、功耗飙升和运维复杂度三大挑战。例如，Meta在训练Llama 3时，54天内16384个H100显卡集群共出现419次意外故障，平均每三小时一次。超节点通过纵向扩展（Scale Up），将分散的芯片整合为一个逻辑统一的“超级大芯片”，实现低延迟、高带宽的协同计算，显著缩短训练周期并降低运维难度。
对国产厂商而言，超节点更是务实的选择。由于单颗芯片性能与英伟达仍有差距，国产算力通过堆卡数和优化互联，以系统效率弥补单卡不足。摩尔线程副总裁马鉴表示，通过系统上的提升去对标国际先进的超大规模集群，训练出同样先进的模型。国产芯片厂商借此绑定上下游产业链生态，从“能用”走向“好用”。
国产大模型厂商也积极拥抱超节点。月之暗面的Kimi K3模型部署在64张平头哥真武M890组成的超节点上，阿里云在Day0就适配了该模型。Kimi的技术报告指出，大模型Scaling不仅存在于预训练阶段，后训练和推理阶段同样需要大量算力，超节点成为支撑模型智能提升的关键。阿里、百度等全栈厂商则通过芯片为模型定制、模型反哺芯片迭代，并将超节点以云服务形式按词元调用。
国产服务器厂商同样受益。英伟达上一代GB200 NVL72售价约300万美元，新一代Vera Rubin NVL72单柜物料成本攀升至780万美元。超节点交付从单台到整柜，服务器厂商需完成整机柜集成、Scale-up组网、供电与结构件、上架联调等系统级交付，工程复杂度提升，利润空间也随之扩大。据大摩研究报告，Rubin时代ODM的附加值将增加35-40%。鸿海等厂商甚至从“买断制”转向“寄售制”，代工厂无需大额垫资备货。
然而，超节点的大规模落地仍面临多重挑战。首先是互联协议生态的割裂。英伟达的NVLink在2014年推出，去年新增NVLink Fusion，允许第三方厂商定制CPU或加速器，但每个节点仍需包含至少一颗英伟达芯片。AMD主导的UALink成立于2024年，参与者包括AWS、谷歌、英特尔、博通、Meta、微软等。博通在2025年发布自家协议SUE，将以太网优势引入Scale Up领域。国内方面，华为2019年发布灵衢（UnifiedBus），海光去年12月联合多家厂商发布HSL 1.0规范，中国移动、阿里云、字节跳动等也发布了各自的Scale Up开放协议。协议众多且由巨头主导，导致行业早期生态松散。
其次是物理介质的技术路线分化。电互连（铜缆）便宜、功耗低，但传输距离受限；光互连（光缆）能远距离传输，但硬件造价高，光模块产生额外功耗。英伟达联手台积电押注CPO（光电共封装）技术，中国信通院将演进路径概括为NPO过渡商用、CPO成为主流、OIO成为终极形态。
供电和冷却也是关键难题。AI的尽头是算力，算力的尽头是电力。超节点作为“吞电兽”，需要更先进的供电架构和风液混合、全液冷系统。此外，上游国产芯片端的晶圆厂产能能否持续兑现，同样关乎超节点的规模化落地。
尽管超节点被视为被逼出来的创新和务实选择，但距离真正掀翻英伟达的牌桌，仍有很长的路要走。