美银证券研究团队在最新报告中指出，在2026年AI基础设施峰会第二天的议程中，美光、三星、SK海力士、博通、Marvell、英特尔、高通、OpenAI、AWS、谷歌等主要厂商与云计算巨头集体亮相，核心议题高度聚焦于「内存墙」问题的应对策略。与会各方普遍认为，内存与存储的分层解耦已成为当前最具共识的技术路径。

内存墙之所以成为焦点，在于内存带宽与容量的增速远远跟不上模型规模的膨胀。本届峰会的判断延续自今年8月的Hot Chips大会：Transformer模型规模每两年增长约240倍，而内存带宽与容量每两年仅增长约2倍，两者之间的剪刀差持续扩大。这一结构性失衡使得以GPU为中心的传统架构愈发难以为继，推动行业向专用化、分层化的内存解决方案转型。

在具体技术路线上，多家厂商展示了各自的方案。高通在峰会上展示了其「HBC」（高带宽计算）方案，通过将LPDDR内存直接堆叠于计算芯片之上，实现了相较SRAM约200倍的容量/功耗比，以及相较HBM约6倍的带宽/功耗比。三星的zHBM同样采用类似的3D DRAM堆叠路线。SK海力士则着重介绍了三类专用内存层级：面向内存密集型工作负载的PIM（存内计算），相较SRAM可实现每机架288倍的容量提升；面向长上下文场景的HBF（高带宽闪存），容量约为HBM的10倍；以及SALT-KV软件方案，可实现跨层级的温度感知KV缓存调度。

峰会传递出一个明确的行业信号：算力堆叠的时代正在让位于效率驱动的新范式。美银证券报告指出，随着AI应用向智能体方向演进，行业评价体系正从追求原始FLOPs转向关注tokens/W与tokens/$等效率指标。这一转变直接推动了内存多样化与分层解耦的需求——不同类型的工作负载需要匹配不同特性的内存层级，而非依赖单一的高性能内存方案。这对数据中心运营商的采购逻辑和芯片厂商的产品策略均构成实质性影响，内存架构的灵活性与能效比将成为新的竞争维度。

在网络互联层面，以太网在横向扩展领域的主导地位已基本确立，开放性与互操作性是其胜出的关键。博通正将以太网推进至互联架构的每一个层级：横向扩展方面，Tomahawk 6（102.4T）已进入高量产阶段并在超大规模云厂商中上线；纵向扩展方面，Thor Ultra NIC与ESUN方案已就绪；跨域互联方面，Jericho 4负责承接——全部采用开放架构，不依赖垂直整合。与此同时，定制化需求同步升温。Marvell提供涵盖定制XPU附加、全光互联套件及多协议支持（UALink、NVLink Fusion、ESUN）的端到端方案；Astera Labs则以通用PCIe协议为基础，通过Scorpio、Leo等专用芯片布局互联与内存领域。

峰会上，前沿实验室与数据中心运营商还传递出一个一致的信息：机架的量产速度与系统可靠性，其重要性已与芯片设计本身并驾齐驱。AWS通过将测试产能与装机规模相匹配、并将制造环节与部署地点协同布局，大幅压缩了传统上长达6至9个月的芯片后硅测试与稳定化周期，显著缩短了芯片发布与实际数据中心部署之间的时间差。软件协同设计同样被超大规模云厂商列为加速部署的关键抓手，包括PyTorch原生支持、以及最小代码改动即可实现的Hugging Face可移植性等能力，均被视为缩短从芯片到应用落地周期的重要手段。

美银证券研究团队认为，年度以上的快速产品迭代节奏对于令牌经济性与市场竞争力至关重要，而这一节奏的实现，已不再单纯取决于芯片设计能力，更依赖于系统级的工程整合与软硬件协同。从投资视角看，这一趋势意味着半导体行业的竞争维度正在从单一的算力指标，转向内存架构、互联开放性与系统整合能力的综合比拼，相关厂商的产品布局也因此受到市场关注。