美銀證券研究團隊在最新報告中指出，在2026年AI基礎設施峰會第二天的議程中，美光、三星、SK海力士、博通、Marvell、英特爾、高通、OpenAI、AWS、谷歌等主要廠商與雲端計算巨頭集體亮相，核心議題高度聚焦於「記憶體牆」問題的應對策略。與會各方普遍認為，記憶體與儲存的分層解耦已成為當前最具共識的技術路徑。

記憶體牆之所以成為焦點，在於記憶體頻寬與容量的增速遠遠跟不上模型規模的膨脹。本屆峰會的判斷延續自今年8月的Hot Chips大會：Transformer模型規模每兩年增長約240倍，而記憶體頻寬與容量每兩年僅增長約2倍，兩者之間的剪刀差持續擴大。這一結構性失衡使得以GPU為中心的傳統架構愈發難以為繼，推動行業向專用化、分層化的記憶體解決方案轉型。

在具體技術路線上，多家廠商展示了各自的方案。高通在峰會上展示了其「HBC」（高頻寬計算）方案，通過將LPDDR記憶體直接堆疊於計算晶片之上，實現了相較SRAM約200倍的容量/功耗比，以及相較HBM約6倍的頻寬/功耗比。三星的zHBM同樣採用類似的3D DRAM堆疊路線。SK海力士則著重介紹了三類專用記憶體層級：面向記憶體密集型工作負載的PIM（存內計算），相較SRAM可實現每機架288倍的容量提升；面向長上下文場景的HBF（高頻寬快閃記憶體），容量約為HBM的10倍；以及SALT-KV軟體方案，可實現跨層級的溫度感知KV快取排程。

峰會傳遞出一個明確的行業訊號：算力堆疊的時代正在讓位於效率驅動的新範式。美銀證券報告指出，隨著AI應用向智慧體方向演進，行業評價體系正從追求原始FLOPs轉向關注tokens/W與tokens/$等效率指標。這一轉變直接推動了記憶體多樣化與分層解耦的需求——不同型別的工作負載需要匹配不同特性的記憶體層級，而非依賴單一的高效能記憶體方案。這對資料中心運營商的採購邏輯和晶片廠商的產品策略均構成實質性影響，記憶體架構的靈活性與能效比將成為新的競爭維度。

在網路互聯層面，乙太網路在橫向擴充套件領域的主導地位已基本確立，開放性與互操作性是其勝出的關鍵。博通正將乙太網路推進至互聯架構的每一個層級：橫向擴充套件方面，Tomahawk 6（102.4T）已進入高量產階段並在超大規模雲廠商中上線；縱向擴充套件方面，Thor Ultra NIC與ESUN方案已就緒；跨域互聯方面，Jericho 4負責承接——全部採用開放架構，不依賴垂直整合。與此同時，定製化需求同步升溫。Marvell提供涵蓋定製XPU附加、全光互聯套件及多協議支援（UALink、NVLink Fusion、ESUN）的端到端方案；Astera Labs則以通用PCIe協議為基礎，通過Scorpio、Leo等專用晶片佈局互聯與記憶體領域。

峰會上，前沿實驗室與資料中心運營商還傳遞出一個一致的資訊：機架的量產速度與系統可靠性，其重要性已與晶片設計本身並駕齊驅。AWS通過將測試產能與裝機規模相匹配、並將製造環節與部署地點協同佈局，大幅壓縮了傳統上長達6至9個月的晶片後矽測試與穩定化週期，顯著縮短了晶片釋出與實際資料中心部署之間的時間差。軟體協同設計同樣被超大規模雲廠商列為加速部署的關鍵抓手，包括PyTorch原生支援、以及最小程式碼改動即可實現的Hugging Face可移植性等能力，均被視為縮短從晶片到應用落地週期的重要手段。

美銀證券研究團隊認為，年度以上的快速產品迭代節奏對於令牌經濟性與市場競爭力至關重要，而這一節奏的實現，已不再單純取決於晶片設計能力，更依賴於系統級的工程整合與軟硬體協同。從投資視角看，這一趨勢意味著半導體行業的競爭維度正在從單一的算力指標，轉向記憶體架構、互聯開放性與系統整合能力的綜合比拼，相關廠商的產品佈局也因此受到市場關注。