在2026年世界人工智能大会(WAIC)现场,一个数字引发了广泛讨论:AI服务器交付后,实际被有效利用的算力可能不到规格表上数字的30%。多家芯片企业不约而同地将话题从“算力有多大”转向“算力用得好不好”,标志着AI产业已跨过“能不能”的第一道门槛,进入追求“好用”的新阶段。
产业核心矛盾正从芯片本身向上迁移。2026年,推理对算力的调用量已经超过训练,这不再是预测,而是既成事实。训练芯片追求“学得更好”,推理芯片则追求“用得更省”。曦望智能商业产品与解决方案高级总监付庆平指出,推理调度的粒度正在从任务级细化到算子级,越细粒度越高效,每高效一分,token成本就降一分。这意味着推理芯片的竞争已深入到模型层的调度效率,软件层面的优化正成为芯片产品的核心卖点。
从视频处理视角看,推理需求的爆发更为直观。VPU厂商判断未来80%的视频将由AI生成,而视频生成的token消耗是文字生成的1000倍。通过将视频相关计算从GPU剥离给专用芯片,VPU+GPU协同有望将视频生成成本降低8成。后摩智能战略生态VP杨大卫表示:“训练决定模型能力上限,推理决定AI能不能大范围落地。”当推理成为产业主轴,芯片需求结构随之改变:云端需要规模化推理芯片,视频场景需要VPU,端侧快思考需要NPU,低功耗端侧推理需要存算一体架构。通用GPU不再是唯一答案,专用化正从理论讨论变成商业现实。
算力经济学成为行业共识。镕铭微电子联合创始人兼CEO朱照远认为,算力成本降低的根本原因是效率提升,而非单纯“省”。数据中心客户评估芯片方案时关注至少六个维度:稳定性、性能、延时、功耗、画质和TCO。当AI从实验室进入生产环境,评价标准不再是考试分数,而是工作结果。推理芯片通过硬件裁剪掉训练相关冗余功能来降低成本,体现了从通用到专用的趋势。从CPU到GPU再到DPU、VPU,每一次专用化都对应着计算需求从通用平台剥离。现阶段国产芯片选GPU路线是市场选择,但未来各种算力芯片会向细分领域发展,在局部形成独角兽。
端侧推理的三大刚需是隐私、成本和物理世界交互的延时,这决定了端侧芯片设计逻辑与云端不同。爱芯元智联合创始人刘建伟指出,云端先看体验再降成本,端边先看成本再提体验。端侧AI商业模式也在变化,当用户发现订阅费可能比硬件本身还贵时,从订阅制转向一次性买断的诉求开始出现。
具身智能被多家企业提及为下一个爆发点。WAIC现场机器人展区显示,不同于往年表演型机器人,今年已有机器人能长时间连续完成细致性工作,从展台秀进入工厂产线。但产业形态远未收敛,有观点主张广义机器人(如扫地机、割草机),也有观点倾向人形路线。有存算一体企业给出尖锐对比:PC离开AI还是PC,汽车离开AI还是汽车,但机器人离开AI就是一块铁。机器人对端侧AI的刚需最为迫切,体现在隐私、Token成本和物理交互实时性三个维度,存算一体架构可将功耗能效比提升一到两个数量级。
软件生态成为比芯片更厚的壁垒。回到开篇提到的纸面算力与实际产出的巨大差距,根源在于模型选型、微调、知识库建设、中底层软件栈优化和机房配置等环节。交付一台AI服务器和实施一个AI项目,就像买了一口锅和炒出一盘菜,中间还有大量工作。芯片的生态壁垒核心不仅是技术问题,更是开发者习惯问题。存算一体等新架构面临的核心挑战不是芯片做不出来,而是软件生态跟不上。有观点指出,中底层软件栈可以把同样硬件的算力输出提高2到5倍,但这次WAIC上深入讨论这个方向的并不多。
当被问及国产AI芯片最需要发展的是性能还是生态时,一家推理芯片企业的回答是:两者都不构成当前瓶颈,最缺的是产业协同。从存算一体到端侧NPU,从VPU到全栈集成,不同技术路线的企业全部指向软件生态而非硬件性能。行业人士指出,国产生态普及率已经非常高,高校直接在国产生态上教学,关键领域客户选用国产生态,这种自上而下的生态建设路径是中国独有的优势。更进一步的判断是:国产AI芯片在性能和生态上都不构成当前瓶颈,差距不在“能不能”,而在“好不好”。从AI推理芯片到真正落地,需要解决方案合作、用户场景合作、超节点网络合作等大量产业协作。
从客户侧看,数据中心芯片从接触到大规模上线通常需要6到24个月,测试周期长、导入门槛高。即使芯片技术达标,商业化落地仍需要漫长验证周期。2026年的AI芯片行业正在经历微妙转向:竞争的主阵地从晶圆厂和流片车间,迁移到了编译器、工具链和系统调度层。当多家企业从不同技术路线出发却不约而同指向同一道鸿沟时,这已不再是某一个人的判断,而是一种行业集体认知。