散热方案商Frore Systems上周发布白皮书,声称其采用半导体级制造工艺的LiquidJet冷板技术,可将英伟达下一代Rubin GPU的结温降低最多12°C,10°C的降温幅度可带来约15%的token生成效率提升。这一说法基于公司的分析热模型,旨在展示更优散热对AI加速器性能的直接经济价值。

随着AI数据中心功耗密度攀升,散热已从单纯的硬件保护手段转变为提升算力产出效率的关键环节。现代AI加速器如Rubin,功耗可达2400W,芯片结温轻易超过95°C。尽管这一温度对硅片寿命未必构成威胁,但泄漏电流会随温度指数级增长——结温每升高10°C,泄漏电流约翻倍,同时晶体管开关效率下降。这迫使GPU在高温下提高电压以维持频率,最终触发动态电压频率调整(DVFS)降频,导致性能与token产出下滑。

Frore在白皮书中强调,散热改进的空间不仅限于冷板本身,而是涵盖整个散热链路——从GPU封装、热界面材料(TIM)到冷板与冷却液温度。公司估计,全面优化这些环节可使每瓦token生成效率提升超过30%。其中,LiquidJet冷板技术是公司最激进的预测之一,其分析模型显示,单独采用该冷板即可将Rubin结温降低最多12°C,对应token/Watt提升10%至25%;若降温10°C,token生成量可增加约15%。

Frore的冷板设计借鉴半导体制造中的蚀刻与键合工艺,在铜块内构建复杂的三维微结构,以针对性解决加速器芯片上的热点问题。这与传统冷板采用铣削(skiving)工艺形成的长直微通道形成对比。公司认为,这种微结构能更有效地降低热阻,从而提升散热效率。

白皮书还探讨了移除GPU封装顶盖(delidding)的潜在收益。Frore称,无盖的Rubin封装相比带集成散热器(IHS)的版本,可将结温降低最多20°C,理论上使token/Watt提升最多35%。不过,去盖GPU的机械可靠性较低,这是其商业化应用的主要障碍。尽管如此,Frore透露,已有云服务提供商正在评估在量产环境中使用去盖Rubin GPU,以换取更高的token产出收益。

散热效率的提升直接关系到AI数据中心的运营经济性。在GPU功耗持续攀升的背景下,更低的结温意味着更少的电压补偿、更稳定的频率维持,以及更高的持续算力输出。对于运营者而言,这意味着单位功耗能产生更多token,直接转化为收入。Frore的模型基于分析热模拟,其实际效果尚需在真实硬件上验证,但这一方向反映了行业对散热技术日益增长的重视。随着英伟达Rubin平台临近发布,散热方案的选择将成为影响其部署成本与性能表现的关键变量之一。