韓國科學技術院（KAIST）電機工程系教授金正浩，因在高頻寬記憶體（HBM）領域的開創性貢獻而被業界尊稱為“HBM之父”。他近日對當前AI運算架構提出了尖銳批評，直言AI的本質不是GPU，而是記憶體。

金正浩指出，全球部署在數據中心裡的數百萬顆GPU，其實際運算時間僅佔約10%。他以ChatGPT生成回覆的過程為例解釋：系統每輸出一個詞，就必須從HBM中讀取數據、完成運算、再將結果寫回記憶體。這個反覆的讀寫過程佔據了絕大多數時間，導致GPU在大部分時間裡處於閒置等待狀態。他估算，即便通過演算法進行最佳化，GPU的使用率也很難突破30%，意味著英偉達售出的芯片有七成時間在“閒置”。

這一論斷將矛頭指向了當前AI硬件架構的核心矛盾。金正浩分析稱，GPU的效能提升路徑已近乎停滯，因為要增強算力，唯一的方法是擴大芯片面積、堆疊更多運算單元。然而，GPU巨大的發熱量使其背面必須加裝散熱裝置，這導致它無法像記憶體那樣進行垂直堆疊，從而將GPU的創新空間困在了“熱管理的死衚衕”裡。他由此斷言，AI運算的進化，掌握在記憶體手中。

隨著AI產業從模型訓練時代邁入推論時代，記憶體的重要性正快速升高。金正浩預測，在情境工程、多模態輸入和AI代理等應用興起的推動下，記憶體需求將每年翻倍，十年內成長千倍。在技術路線上，他描繪了從HBF（高頻寬快閃記憶體）到HBS（高頻寬SRAM），最終願景是打造“百層3D大樓”的演進路徑，並坦言最大的工程挑戰並非運算本身，而是供電與散熱。

除了技術批判，金正浩還點出了一個正在發生的產業結構性轉變。過去，記憶體被視為標準化商品，定價權掌握在買方手中。但從HBM4開始，情況發生了逆轉。記憶體廠商在研發初期就需要獲得英偉達、Google、AMD等客戶的採購承諾才會啟動開發。他表示：“AI企業太需要高效能HBM了，所以他們排隊上門。供應方開始決定價格。”這標誌著一個典範轉移，記憶體廠商在AI供應鏈中的地位正從被動供貨轉向掌握話語權。

金正浩的言論發表之際，全球記憶體市場正經歷劇烈變動。SK海力士於7月10日以美國存託憑證（ADR）形式在納斯達克掛牌上市，募資規模約282億美元，創下美國史上規模最大的海外企業IPO紀錄。同時，儘管記憶體類股近期出現回檔，但年內漲幅依然驚人，其中SanDisk漲超533%，美光漲超212%，三星漲超129%，而鎧俠控股的市值更在6月超越豐田，躍居日本第一。在金正浩看來，SK海力士的鉅額IPO反映的不僅是記憶體短缺的現狀，更是記憶體廠商在AI時代權力結構上升的標誌。

金正浩的觀點為市場提供了一個審視AI價值鏈的激進視角。如果AI運算的瓶頸確實從算力轉向記憶體頻寬與容量，那麼資本開支的重心、技術創新的方向以及產業鏈的利潤分配都可能隨之重塑。當然，這些預言最終能否實現，仍有待市場和技術發展的檢驗。