散熱方案商Frore Systems上週釋出白皮書,聲稱其採用半導體級製造工藝的LiquidJet冷板技術,可將輝達下一代Rubin GPU的結溫降低最多12°C,10°C的降溫幅度可帶來約15%的token生成效率提升。這一說法基於公司的分析熱模型,旨在展示更優散熱對AI加速器效能的直接經濟價值。
隨著AI資料中心功耗密度攀升,散熱已從單純的硬體保護手段轉變為提升算力產出效率的關鍵環節。現代AI加速器如Rubin,功耗可達2400W,晶片結溫輕易超過95°C。儘管這一溫度對矽片壽命未必構成威脅,但洩漏電流會隨溫度指數級增長——結溫每升高10°C,洩漏電流約翻倍,同時電晶體開關效率下降。這迫使GPU在高溫下提高電壓以維持頻率,最終觸發動態電壓頻率調整(DVFS)降頻,導致效能與token產出下滑。
Frore在白皮書中強調,散熱改進的空間不僅限於冷板本身,而是涵蓋整個散熱鏈路——從GPU封裝、熱介面材料(TIM)到冷板與冷卻液溫度。公司估計,全面最佳化這些環節可使每瓦token生成效率提升超過30%。其中,LiquidJet冷板技術是公司最激進的預測之一,其分析模型顯示,單獨採用該冷板即可將Rubin結溫降低最多12°C,對應token/Watt提升10%至25%;若降溫10°C,token生成量可增加約15%。
Frore的冷板設計借鑑半導體制造中的蝕刻與鍵合工藝,在銅塊內構建複雜的三維微結構,以針對性解決加速器晶片上的熱點問題。這與傳統冷板採用銑削(skiving)工藝形成的長直微通道形成對比。公司認為,這種微結構能更有效地降低熱阻,從而提升散熱效率。
白皮書還探討了移除GPU封裝頂蓋(delidding)的潛在收益。Frore稱,無蓋的Rubin封裝相比帶整合散熱器(IHS)的版本,可將結溫降低最多20°C,理論上使token/Watt提升最多35%。不過,去蓋GPU的機械可靠性較低,這是其商業化應用的主要障礙。儘管如此,Frore透露,已有云服務提供商正在評估在量產環境中使用去蓋Rubin GPU,以換取更高的token產出收益。
散熱效率的提升直接關係到AI資料中心的運營經濟性。在GPU功耗持續攀升的背景下,更低的結溫意味著更少的電壓補償、更穩定的頻率維持,以及更高的持續算力輸出。對於運營者而言,這意味著單位功耗能產生更多token,直接轉化為收入。Frore的模型基於分析熱模擬,其實際效果尚需在真實硬體上驗證,但這一方向反映了行業對散熱技術日益增長的重視。隨著輝達Rubin平台臨近釋出,散熱方案的選擇將成為影響其部署成本與效能表現的關鍵變數之一。