美光（Micron）HBM 設計架構院士 Raghu Sreeramaneni 在 Hot Chips 2026 會議上警告，高頻寬記憶體（HBM）相對於傳統 DDR5 記憶體的矽片面積代價正隨每一代產品擴大，目前約為 DDR5 的三倍，且這一差距無法在不犧牲效能的前提下縮小。他明確表示，情況“肯定沒有好轉”，並稱“記憶體牆”依然存在，甚至可能正在惡化。
Sreeramaneni 解釋，HBM 通過並行執行大量儲存庫來實現高頻寬，例如 HBM4 單顆晶片包含 256 個儲存庫，而 DDR5 僅 32 個，這需要更大的芯片面積用於資料通路、供電以及連線各層與基底晶片的矽通孔（TSV）。一顆 HBM3E 晶片可提供 256 GB/s 頻寬，而單顆 DDR5 晶片僅約 8 GB/s，因此在相同容量下，HBM 芯片面積遠大於 DDR5。美光此前已公開這一代價約為 DDR5 的三倍，且隨著引腳速度、儲存庫數量、堆疊層數和晶片尺寸的提升，這一差距逐代擴大。
Sreeramaneni 稱 HBM 是“我們製造的最具跨職能複雜性的解決方案”，並指出在雙 GPU 封裝中，記憶體約佔矽片總面積的 90%，約為 GPU 芯片面積的八倍。由於 HBM 每位元售價約為 DDR5 的五倍，製造商將晶圓轉向 HBM 生產會不成比例地減少市場上的常規記憶體供應，從而推高消費級產品價格。
受此影響，常規 DRAM 合約價在 2026 年第一季度環比上漲 90% 至 95%，第二季度再漲 58% 至 63%。作為參照，一套主流 32GB DDR5-6000 記憶體套件本月售價約 392 美元，而一年前為 110 至 140 美元；128GB DDR5 價格已突破 3399 美元，12 個月漲幅達 500%，歐洲價格自去年 9 月以來上漲 345%。惠普在二月份告訴投資者，DRAM 已佔其 PC 製造成本的 35%，而一個季度前這一比例為 15% 至 18%。Gartner 預計 2026 年 PC 出貨量將下降超過 10%。儘管第三季度漲幅放緩至 13% 至 18%，但這只是因為消費電子製造商達到了可轉嫁成本的上限，而非供應改善。
在技術層面，美光的演示顯示計算效能大約每兩年增長三倍，而 HBM 頻寬增長不到兩倍，這一差距正是“記憶體牆”惡化的體現。HBM4 將主機介面翻倍至 2048 個 I/O，美光的產品每引腳速率超過 11 Gb/s，單堆疊頻寬超過 2.8 TB/s，高於 JEDEC HBM4 標準中 8 Gb/s 和 2 TB/s 的基線。這些提升都來自更高的並行度，而這再次增大了芯片面積，擴大了矽片代價。Sreeramaneni 表示，堆疊到 16 層 DRAM “有很好的路徑”，但“16 層之後還有很多工作要做”。
與此同時，SK 海力士在 Hot Chips 上描述了 775 微米總厚度上限對堆疊的限制，直到行業採用混合鍵合技術才能突破，而 SK 海力士預計該技術要到 HBM5 才會應用。美光的 HBM4E 預計在 2027 年左右推出，將邏輯基底晶片轉移到台積電的工藝，這反映了 AI 工作負載碎片化帶來的定製化趨勢。Sreeramaneni 表示，“分解”是當下的流行詞。
熱管理也是關鍵挑戰。基底晶片位於堆疊底部，承擔最高速的介面工作，而散熱器在頂部，每增加一層都會提高熱阻。Sreeramaneni 表示，美光現在“圍繞熱設計架構，而不是反過來”，這與幾年前的做法相反。美光還引用 Meta 的 Llama 3 論文指出，在 16,384 塊 H100 GPU 上執行 54 天期間，17.2% 的意外中斷歸因於 HBM3 記憶體，這是僅次於 GPU 故障的第二大原因，且這一可靠性負擔隨每個封裝中 HBM 容量的增加而擴大。
市場格局方面，SK 海力士以約 58% 的份額領先 HBM 市場，低於此前約 69% 的高點，美光去年超越三星成為第二。美光今年早些時候已開始為輝達 Vera Rubin 平台量產 36GB 12 層 HBM4，輝達 CEO 黃仁勳在六月份表示三家供應商均已通過認證並投入生產。分析師預計，DDR5 每晶圓盈利能力將在今年年底前超過 HBM3E，這使得三家廠商缺乏增加常規產能的動力。SK 海力士去年十月表示已售罄 2026 年全部產出，Apacer 執行長則告訴投資者，明年對獨立模組廠商的供應可能降至 2026 年產量的 30%。SK 海力士 CEO 郭魯正稱 2027 年將是記憶體行業歷史上供應最差的一年，需求超過產出將持續到 2030 年。
作為回應，輝達已將 DGX Spark 桌面裝置價格從 3999 美元上調至 4699 美元，並警告大客戶 AI 伺服器價格漲幅將超過 15%，兩者均與記憶體成本相關。現實來看，供應緊張只有在三種條件下才會緩解，且在新晶圓廠產能上線並規模化之前都不太可能：中國長鑫儲存（CXMT）大規模量產有競爭力的 DDR5、混合鍵合技術在 HBM5 之前到來（SK 海力士已基本排除）、以及新產能的釋放。