2026年世界人工智能大会(WAIC)上,AI产业的焦点正从云端算力竞赛转向终端智能硬件的集中爆发。手机、AI PC、人形机器人、智能座舱、全屋中控等泛终端设备成为新战场,AI的落地形态不再局限于网页或App的对话窗口,而是进入具备感知、理解、交互和执行能力的真实物理设备。这一转变将产业竞争的关键推向了底层芯片——能否在低功耗、小型化、低成本约束下实现高效的大模型本地推理,成为决定终端AI体验的核心。
在这场端侧AI浪潮中,聆思科技计划于今年年底发布Nebula系列端侧大模型AI推理芯片,瞄准的正是终端智能硬件爆发背后的底层算力需求。该公司市场副总裁韩超阳在WAIC期间指出,当前端侧大模型AI推理的最大瓶颈在于,专为大模型推理算法原生设计的端侧AI芯片仍然稀缺。传统端侧芯片多面向语音唤醒、图像识别等任务,面对Transformer类生成式大模型时,在推理时延、带宽、功耗控制等方面存在局限。
Nebula系列芯片的设计思路是面向Transformer类大模型推理原生设计AI NPU,从大模型算法特性反向定义计算架构。据聆思披露,该芯片预计可实现10倍计算加速性能提升,推理速度超过100 tokens/s。这一速度对AI PC、机器人、智能座舱等场景至关重要——只有达到低延迟、连续生成的响应水平,端侧大模型才能从“能跑”变为“好用”。
在内存带宽方面,Nebula采用3D-DRAM堆叠技术,使芯片内存带宽达到传统LPDDR的5-10倍。这解决了端侧设备无法像云端那样无限堆内存和散热的限制,在有限封装体积内提升数据供给效率。此外,Nebula系列支持搭配不同容量堆叠内存,以适配不同规格的模型加载需求,在更高算力场景中还可通过芯片级联技术实现弹性扩展。
聆思的端侧芯片路径并非突然转向。该公司累计芯片出货量已超过亿颗级别,在语音和视觉两个方向均有成熟落地:语音方向进入海尔、美的等白电龙头供应链;视觉方向将AI能力带入扫读笔、运动相机、智能门锁等设备。韩超阳表示,未来端侧小模型感知芯片与大模型认知芯片将协同发展,前者负责低功耗实时感知,后者承担复杂语义理解和推理决策。
目前,聆思科技已联合联想、聆动机器人、海尔、美的、面壁等企业启动联合预研,围绕AI PC、机器人、智慧家庭、智能座舱四大方向推动端侧大模型AI推理芯片的产业化落地。通用人工智能要真正走出实验室,不能只靠云端算力兜底,依托完整的端侧推理基础设施实现本地自主智能,才是打通落地的关键。