花旗分析师在Hot Chips大会第二天后发布报告指出，随着AI系统规模扩大和复杂度提升，网络层正取代原始算力成为AI性能的主要瓶颈。这一转变对英伟达（Nvidia）、博通（Broadcom）、Arista Networks、Lumentum、Coherent、Marvell Technology及Astera Labs等公司构成特别积极的展望。

花旗分析师认为，AI基础设施发展的第一波浪潮主要集中在更快的GPU、更大的加速器和更强的训练能力上。但随着AI系统向数万亿参数、更大上下文窗口和自主智能体工作负载扩展，在芯片、服务器、机架和数据中心之间高效传输数据正成为更大的瓶颈。

在Hot Chips大会上，英伟达、博通、Meta Platforms、谷歌（Alphabet旗下）和三星等公司的展示都指向了同一趋势。花旗分析师表示：“未来AI赢家不一定拥有最快的处理器，而是能在整个系统中高效传输数据的公司。”

内存也日益成为网络挑战的一部分。三星、XCENA和Cerebras展示的技术旨在让更多数据靠近处理位置，减少必须通过拥堵互连传输的数据量。每字节数据在本地保留都能降低通信开销，使得内存容量、带宽和效率的改进与网络性能紧密相关。

花旗还强调了英伟达将未来数据中心视为“AI工厂”的概念。与传统主要围绕服务器组织的数据中心不同，这些设施越来越多地围绕连接计算、内存、网络、存储和安全的数据流来设计。这一转变可能将更多AI基础设施价值转向能够优化整个数据移动栈的公司，而非单纯提供独立处理器的供应商。

分析人士指出，网络层的重要性提升意味着，在AI基础设施投资中，网络设备、互连技术和内存解决方案的供应商将获得更多价值。这一趋势对投资者而言，意味着需要关注那些在数据高效传输方面具备技术优势的公司，而不仅仅是处理器性能领先的厂商。