AMD在近日釋出的一篇部落格中表示，其AI系統能效較2024年已提升4倍，並重申到2030年將機架效率提高20倍的目標。這一進展主要得益於從傳統GPU伺服器向機架級系統的轉變，以及軟體棧和硬體設計的持續最佳化。

AMD在2024年開始量產其首款面向AI的資料中心GPU MI300X，該晶片功耗為750瓦，可提供高達2.6 petaFLOPS的密集FP8效能，當時在紙面上與輝達的Hopper系列加速器競爭。此後，AMD通過支援4位浮點資料型別、採用新記憶體技術、提升互連速度以及轉向全整合機架級系統，不斷挖掘每瓦特FLOPS的效能。

AMD高階副總裁兼研究員Sam Naffziger去年曾表示，一個反直覺的現象是，裝置越大，效率越高。上個月，AMD釋出了其機架級計算平台Helios，該系統集成了72顆MI455X GPU。與MI300X相比，MI455X的浮點效能提升7.7至15.4倍，HBM容量增加2.25倍，記憶體速度提升4.4倍，晶片間互連頻寬提升4倍。不過，該晶片的功耗也增加了超過3倍。AMD表示，最大的效能提升來自於如何在系統內高效擴充套件AI工作負載。

輝達在2024年底率先採用機架級架構，推出了基於Grace Blackwell的NVL72系統，同樣將72顆GPU整合在一個機架大小的系統中。輝達CEO黃仁勳當時聲稱，與同等數量的Hopper GPU相比，GB200 NVL72機架在訓練效能上提升4倍，推理效能提升30倍。

值得注意的是，AMD計算能效的方法與輝達不同，它通過為訓練和推理分別加權最大FLOPS、記憶體和互連頻寬，而非基於實際應用效能進行比較。AMD的4倍提升也僅是估計值。首批Helios系統計劃本季度出貨，預計隨後將公佈MLPerf和InferenceX基準測試結果。

AMD表示，如果實現目標，兩個Helios機架將能完成2024年需要570個機架才能完成的工作。更實際地說，在相同功耗下，客戶將能部署20倍的計算能力。不過，這一前景也取決於AI需求是否持續增長。