智谱在其AI编程工具ZCode中,悄然开启了高速旗舰模型GLM-5.3 HighSpeed的灰度测试。X平台上的AI编程博主Leo称,自己已被灰度到这款模型,其输出速度超过490 tokens/s。目前该模型只对ZCode订阅用户随机开放,没有明确的内测申请入口,输入输出价格也尚未披露。

要理解这个速度的量级,可以对照第三方评测平台AI Ping的数据:DeepSeek V4.1 Flash官方API的输出速度为121.34 tokens/s,而智谱官方的GLM-5.3 API速度为70.84 tokens/s。也就是说,GLM-5.3 HighSpeed在灰度阶段展现出的速度,达到当前国内主流模型API的数倍。不过需要指出,内测阶段的速度只能作为参考,最终仍要看模型正式上线、对外规模化提供服务时的实际表现。

从模型基本信息看,GLM-5.3 HighSpeed拥有100万个token的上下文窗口,单次最多可输出131072个token,这两项参数与GLM-5.3一致。这意味着高速版并非通过压缩上下文或输出长度来换取速度,而是在同等规格下提升推理吞吐。

这并非智谱首次推出高速旗舰模型。今年5月,GLM-5.1就曾推出面向部分企业用户的高速版API GLM-5.1-highspeed,输出速度达到400 tokens/s。当时智谱展示了高速模型在生产场景中的价值:一个Coding Agent任务往往需要经历数十轮模型调用,单轮响应只要慢上几秒,整体耗时就可能被拉长十几分钟;更快的模型能让写代码的过程显著提速,模型可以一边理解工程上下文,一边持续生成代码与修改方案。

这种输出速度主要来自软硬件基础设施层面的优化。此前GLM-5.1 Highspeed的API由智谱GLM团队与TileRT团队联合打造,在推理引擎、调度系统与底层基础设施三个层面做了系统级优化:推理引擎层针对模型架构特点重写核心推理路径,提升单卡吞吐;调度系统层通过动态批处理、请求合并和KV缓存调度优化,降低高并发场景下的尾延迟;基础设施层则围绕推理集群部署、网络链路与负载均衡进行协同优化,使高速输出成为稳定可用的生产级能力。

TileRT的核心思路是放弃传统Runtime层的动态算子调度,把整个推理计算图在编译期静态编排成一个常驻GPU的persistent Engine Kernel,从而把调度、访存和同步开销压到最低。这套思路此前已在GLM-5.1高速版上验证,如今延续到GLM-5.3 HighSpeed。

从产业视角看,提升模型推理速度已成为不少厂商关注的重点。除了推出专门的快速模型之外,把旗舰模型的速度再拔高一个量级,也正成为新的竞争方向。对AI编程、Agent等需要高频、多轮调用的场景而言,输出速度直接关系到产品体验和单位任务的算力成本;对模型厂商来说,速度与价格、上下文长度一样,正在成为API竞争力的组成部分。GLM-5.3 HighSpeed最终能否在规模化服务中保持这一速度水平,以及其定价策略如何,将是观察智谱在开发者市场布局的重要窗口。