智譜在其AI程式設計工具ZCode中,悄然開啟了高速旗艦模型GLM-5.3 HighSpeed的灰度測試。X平台上的AI程式設計博主Leo稱,自己已被灰度到這款模型,其輸出速度超過490 tokens/s。目前該模型只對ZCode訂閱使用者隨機開放,沒有明確的內測申請入口,輸入輸出價格也尚未披露。

要理解這個速度的量級,可以對照第三方評測平台AI Ping的資料:DeepSeek V4.1 Flash官方API的輸出速度為121.34 tokens/s,而智譜官方的GLM-5.3 API速度為70.84 tokens/s。也就是說,GLM-5.3 HighSpeed在灰度階段展現出的速度,達到當前國內主流模型API的數倍。不過需要指出,內測階段的速度只能作為參考,最終仍要看模型正式上線、對外規模化提供服務時的實際表現。

從模型基本資訊看,GLM-5.3 HighSpeed擁有100萬個token的上下文視窗,單次最多可輸出131072個token,這兩項引數與GLM-5.3一致。這意味著高速版並非通過壓縮上下文或輸出長度來換取速度,而是在同等規格下提升推理吞吐。

這並非智譜首次推出高速旗艦模型。今年5月,GLM-5.1就曾推出面向部分企業使用者的高速版API GLM-5.1-highspeed,輸出速度達到400 tokens/s。當時智譜展示了高速模型在生產場景中的價值:一個Coding Agent任務往往需要經歷數十輪模型呼叫,單輪響應只要慢上幾秒,整體耗時就可能被拉長十幾分鍾;更快的模型能讓寫程式碼的過程顯著提速,模型可以一邊理解工程上下文,一邊持續生成程式碼與修改方案。

這種輸出速度主要來自軟硬體基礎設施層面的最佳化。此前GLM-5.1 Highspeed的API由智譜GLM團隊與TileRT團隊聯合打造,在推理引擎、排程系統與底層基礎設施三個層面做了系統級最佳化:推理引擎層針對模型架構特點重寫核心推理路徑,提升單卡吞吐;排程系統層通過動態批處理、請求合併和KV快取排程最佳化,降低高併發場景下的尾延遲;基礎設施層則圍繞推理叢集部署、網路鏈路與負載均衡進行協同最佳化,使高速輸出成為穩定可用的生產級能力。

TileRT的核心思路是放棄傳統Runtime層的動態運算元排程,把整個推理計算圖在編譯期靜態編排成一個常駐GPU的persistent Engine Kernel,從而把排程、訪存和同步開銷壓到最低。這套思路此前已在GLM-5.1高速版上驗證,如今延續到GLM-5.3 HighSpeed。

從產業視角看,提升模型推理速度已成為不少廠商關注的重點。除了推出專門的快速模型之外,把旗艦模型的速度再拔高一個量級,也正成為新的競爭方向。對AI程式設計、Agent等需要高頻、多輪呼叫的場景而言,輸出速度直接關係到產品體驗和單位任務的算力成本;對模型廠商來說,速度與價格、上下文長度一樣,正在成為API競爭力的組成部分。GLM-5.3 HighSpeed最終能否在規模化服務中保持這一速度水平,以及其定價策略如何,將是觀察智譜在開發者市場佈局的重要視窗。