韩国科学技术院(KAIST)电机工程系教授金正浩,因在高频宽记忆体(HBM)领域的开创性贡献而被业界尊称为“HBM之父”。他近日对当前AI运算架构提出了尖锐批评,直言AI的本质不是GPU,而是记忆体。
金正浩指出,全球部署在数据中心里的数百万颗GPU,其实际运算时间仅占约10%。他以ChatGPT生成回覆的过程为例解释:系统每输出一个词,就必须从HBM中读取数据、完成运算、再将结果写回记忆体。这个反复的读写过程占据了绝大多数时间,导致GPU在大部分时间里处于闲置等待状态。他估算,即便通过演算法进行最佳化,GPU的使用率也很难突破30%,意味着英伟达售出的芯片有七成时间在“闲置”。
这一论断将矛头指向了当前AI硬件架构的核心矛盾。金正浩分析称,GPU的效能提升路径已近乎停滞,因为要增强算力,唯一的方法是扩大芯片面积、堆叠更多运算单元。然而,GPU巨大的发热量使其背面必须加装散热装置,这导致它无法像记忆体那样进行垂直堆叠,从而将GPU的创新空间困在了“热管理的死胡同”里。他由此断言,AI运算的进化,掌握在记忆体手中。
随着AI产业从模型训练时代迈入推論时代,记忆体的重要性正快速升高。金正浩预测,在情境工程、多模态输入和AI代理等应用兴起的推动下,记忆体需求将每年翻倍,十年内成长千倍。在技术路线上,他描绘了从HBF(高频宽快闪记忆体)到HBS(高频宽SRAM),最终愿景是打造“百层3D大楼”的演进路径,并坦言最大的工程挑战并非运算本身,而是供电与散热。
除了技术批判,金正浩还点出了一个正在发生的产业结构性转变。过去,记忆体被视为标准化商品,定价权掌握在买方手中。但从HBM4开始,情况发生了逆转。记忆体厂商在研发初期就需要获得英伟达、Google、AMD等客户的采购承诺才会启动开发。他表示:“AI企业太需要高效能HBM了,所以他们排队上门。供应方开始决定价格。”这标志着一个典範转移,记忆体厂商在AI供应链中的地位正从被动供货转向掌握话语权。
金正浩的言论发表之际,全球记忆体市场正经历剧烈变动。SK海力士于7月10日以美国存託凭证(ADR)形式在纳斯达克挂牌上市,募资规模约282亿美元,创下美国史上规模最大的海外企业IPO纪录。同时,尽管记忆体类股近期出现回档,但年内涨幅依然惊人,其中SanDisk涨超533%,美光涨超212%,三星涨超129%,而铠侠控股的市值更在6月超越丰田,跃居日本第一。在金正浩看来,SK海力士的巨额IPO反映的不仅是记忆体短缺的现状,更是记忆体厂商在AI时代权力结构上升的标志。
金正浩的观点为市场提供了一个审视AI价值链的激进视角。如果AI运算的瓶颈确实从算力转向记忆体频宽与容量,那么资本开支的重心、技术创新的方向以及产业链的利润分配都可能随之重塑。当然,这些预言最终能否实现,仍有待市场和技术发展的检验。