DeepSeek发布了一套开源推理服务软件,其项目代码树将华为昇腾处理器与英伟达当前数据中心GPU列为对等的构建目标,意味着同一套代码库可同时为两类硬件编译服务程序。按照公开的设计思路,在两者之间迁移工作负载更接近于切换配置项,而非重写整个软件栈。
这一变化触及了中国机房里的一个现实问题。过去,团队往往在写第一行服务代码之前就锁定了芯片供应商,围绕单一厂商的工具链做规划。如今,如果双路径软件在真实负载下站得住脚,采购和平台团队面对的问题就从“能否移植到国产芯片”变成了“本季度能买到、能供电、能跑满付费流量的板卡是哪一款”。
训练与推理对硬件的偏好并不相同。训练仍然青睐成熟深厚的软件生态和紧密的多芯片互联,头部厂商在这方面的领先不会因为一个代码仓库而消失。推理则更直接:权重固定,用户按输出的token付费,延迟、每百万token成本、正常运行时间以及机架利用率决定胜负。替代加速器在推理场景中一直显得比训练集群更有机会,前提是软件不再把它们当作事后补充。DeepSeek此次发布正是瞄准这一缝隙,通过把两个硬件家族放进同一支持层级,降低了供应紧张时保持灵活性的额外成本。
有贸易报道称,中国大型互联网公司仍在大量采购英伟达部件,部分产品被用于AI任务,已超出纯训练SKU的范畴。当交付出现延迟时,双路径软件就成了一种对冲。新项目可以在同一套运营模型内权衡价格、交货周期和政策约束,而不必为每个选择重建技术栈。
不过,营销主张与工程验证仍是两回事。与此次发布相关的公开基准表主要依赖英伟达硬件,昇腾在相同模型、相同批大小和相同延迟目标下的并列数据在公开渠道较为稀薄。公司也将此次发布定位为离线推理,这对测量和集成有用,但并不能完整反映大型生产集群所需的全部组件,例如跨节点的缓存管理、负载均衡以及那些不起眼的控制平面。能在两种架构上编译只是起点,扛住峰值流量才是考试。
现有厂商也在给出自己的答案。英伟达一直在推进针对其GPU调优的开放与半开放服务层,并向生产级编排迭代。一个试图让后端平等的软件故事,自然会引来仍出货最抢手板卡的公司以软件回应。更上游,围绕下一代训练芯片的联合设计讨论、工程师参与以及减少对外国供应依赖的期望,仍属于更长的周期。过去几轮旗舰模型与旗舰国产加速器的搭配,已经让行业学会等待训练运行结果,而不是路线图。
眼下有意义的改变发生在服务层。中国运营方正被推理需求淹没,并为每一块可获得的加速器进行谈判。拒绝将单一供应商硬编码进架构的框架,为采购和平台团队留出了回旋余地。昇腾能否作为真正的对等选项占据这个空间,将由瓦特、毫秒和发票来决定,而不是文档页面上支持矩阵的对称性。