高通技术公司 11 月 5 日宣布,其第一代高通高带宽计算(HBC)芯片已在圣地亚哥实验室完成硬件验证,完整跑通了内存读写路径与近存计算,测试采用生产级尺寸的随机权重与激活值。这标志着该技术从架构设计走向可集成的产品化阶段,为高通下一代 AI 推理平台提供内存层面的基础。

AI 进入规模化生产后,推理系统面临的核心矛盾是:模型能力越来越强,但功耗与成本不能同比例上涨。对大型语言模型推理而言,内存带宽是关键约束——每生成一个 token,都需要把模型数据输送给计算单元;在数据中心规模下,数据搬运带来的能耗与延迟直接影响吞吐量、功耗和总拥有成本。高通的思路是把计算单元放得离内存更近,减少数据搬运、提高有效带宽,从而改善推理负载的每瓦性能。

在硬件验证环节,高通工程团队使用行业标准的自动化测试设备,让首代 HBC 芯片跑过生产级的数据通路,验证了其近存计算架构所能带来的带宽与效率提升。高通同时说明,相关性能估算基于实测结果并按目标运行条件归一化,再与已公开的竞品规格比较,最终表现会因产品实现、工作负载和系统配置而异。

从工程到量产,高通把 HBC 描述为一个分阶段推进的计划,涵盖架构、工艺开发、测试载体、硅验证与产品集成。目前已建立的能力包括:通过专用测试载体和工作硅片验证近存计算的电气、热与物理基础;与领先的代工和封装伙伴合作,跨多个技术世代开发并表征晶圆对晶圆键合工艺;在设计上内置冗余、重映射与经过验证的测试方法,以识别和绕开内存缺陷,并覆盖电气、热、键合与接口等失效模式;同时按可重复、可靠和可量产的方向推进工程化。高通透露,一款数据中心产品已经流片,带键合 DRAM 层的逻辑基础芯片的早期 bring-up 正在产出结果。

这些能力建立在高通十余年的内存架构、先进封装与 3D 堆叠投入之上。公司称已实现 DRAM 直接键合到逻辑硅片的商业化,参与塑造 JEDEC LPDDR 标准,并在全球范围把内存集成进系统级封装产品。DRAM、逻辑、热行为、测试覆盖、缺陷管理、可靠性与供应链执行,被视为 3D 内存集成成功所必需的多学科能力。

下一步产品路线已经明确:高通 Dragonfly AI250 预计在 2027 年上半年出样,将把 HBC 集成进完整的 AI 推理加速平台,并纳入高通 Dragonfly Rack 全栈推理基础设施方案。高通对超大规模云厂商、云服务商和企业给出的价值主张是:以开放的、解耦的机架架构,提供旨在提升每美元每瓦 token 产出(tokens per dollar per watt)的高性能 AI 推理能力。

从产业视角看,推理正成为 AI 算力消耗增长最快的环节,而内存带宽与数据搬运功耗是制约推理经济性的共同瓶颈。高通的近存计算路线若能在 AI250 上兑现验证阶段的带宽与能效表现,将为市场提供一个不同于现有 GPU 加速卡与专用推理芯片的选项;其开放解耦的机架定位,也可能影响云厂商在推理基础设施上的采购与自研策略。不过,从硅验证到量产部署仍需跨越良率、键合工艺稳定性与软件生态适配等关口,AI250 的实际表现有待出样后观察。