花旗分析師在Hot Chips大會第二天後釋出報告指出，隨著AI系統規模擴大和複雜度提升，網路層正取代原始算力成為AI效能的主要瓶頸。這一轉變對輝達（Nvidia）、博通（Broadcom）、Arista Networks、Lumentum、Coherent、Marvell Technology及Astera Labs等公司構成特別積極的展望。

花旗分析師認為，AI基礎設施發展的第一波浪潮主要集中在更快的GPU、更大的加速器和更強的訓練能力上。但隨著AI系統向數萬億引數、更大上下文視窗和自主智慧體工作負載擴充套件，在晶片、伺服器、機架和資料中心之間高效傳輸資料正成為更大的瓶頸。

在Hot Chips大會上，輝達、博通、Meta Platforms、谷歌（Alphabet旗下）和三星等公司的展示都指向了同一趨勢。花旗分析師表示：“未來AI贏家不一定擁有最快的處理器，而是能在整個系統中高效傳輸資料的公司。”

記憶體也日益成為網路挑戰的一部分。三星、XCENA和Cerebras展示的技術旨在讓更多資料靠近處理位置，減少必須通過擁堵互連傳輸的資料量。每位元組資料在本地保留都能降低通訊開銷，使得記憶體容量、頻寬和效率的改進與網路效能緊密相關。

花旗還強調了輝達將未來資料中心視為“AI工廠”的概念。與傳統主要圍繞伺服器組織的資料中心不同，這些設施越來越多地圍繞連線計算、記憶體、網路、儲存和安全的資料流來設計。這一轉變可能將更多AI基礎設施價值轉向能夠最佳化整個資料移動棧的公司，而非單純提供獨立處理器的供應商。

分析人士指出，網路層的重要性提升意味著，在AI基礎設施投資中，網路裝置、互連技術和記憶體解決方案的供應商將獲得更多價值。這一趨勢對投資者而言，意味著需要關注那些在資料高效傳輸方面具備技術優勢的公司，而不僅僅是處理器效能領先的廠商。