階躍星辰(StepFun)在 Hugging Face 上釋出了旗艦模型 Step 5 Preview 的 BF16 版本,定位為面向智慧體(agentic)工作的旗艦模型。官方給出的核心規格是:600B 總引數、27B 啟用引數,採用稀疏混合專家(MoE)架構,上下文視窗最高支援 100 萬 token,最大輸出同樣可達 100 萬 token,輸入模態覆蓋文本與影像。
從能力描述看,Step 5 Preview 重點押注三個方向。其一是軟體工程:模型支援倉庫級程式碼工作,能夠在大規模程式碼庫中導航、跨檔案協調修改、執行並驗證程式碼,再根據結果迭代,同時覆蓋前端與視覺化開發以及面向裝置的程式設計。其二是長程智慧體執行:模型可以完成需要反覆呼叫工具、執行、驗證與修正的任務,並在整個流程中持續利用長上下文資訊。其三是專業知識工作:結合研究、多模態理解與工具呼叫,對長文件、圖表、截圖、影像和影片進行分析,產出結構化報告與分析。官方特別強調該模型在金融任務上表現突出,尤其是需要將量化推理與財務資料、配套文件分析結合起來的工作。
效能部分,官方說明其評測覆蓋程式設計、智慧體任務、專業知識工作與金融四類,並給出了推薦推理設定:temperature=1.0、top_p=0.95、top_k=0,展示結果使用 High 推理檔位。其中 GDPval-AA v2.1 的分數基於 Artificial Analysis 截至 2026 年 9 月 20 日的結果;DeepSWE v1.1 評測使用 SWE-agent 框架,引數為 temperature=1.0、top_p=0.95。更詳細的評測背景、方法與案例,官方指向 Step 5 Preview 的模型頁面。
部署方面,Step 5 Preview 可通過 vLLM 或 SGLang 以 OpenAI 相容 API 方式提供服務,也可用獨立的 Transformers 實現做離線生成,示例覆蓋 FP8 與 BF16 兩種檢查點。官方提醒需使用包含 Step 5 Preview 支援的框架版本,以啟用推理、工具呼叫與投機解碼等功能。
具體配置上,vLLM 的 FP8 版本可在單台 B300 節點上用 4 張 GPU(TP4、TEP4 或 DEP4),或在單台 H200 節點上用 8 張 GPU(TP8、TEP8 或 DEP8);BF16 版本則需單台 B300 節點 8 張 GPU,或兩台 H200 節點共 16 張 GPU。Transformers 路徑下,FP8 用單台 H200 節點 8 卡(TP8/EP8)離線生成,BF16 需兩台 H200 節點 16 卡。SGLang 的 FP8 配置與 vLLM 類似,可在單台 B300 節點 4 卡或單台 H200 節點 8 卡上以 OpenAI 相容 API 提供服務。官方解釋,DP、TP、EP 分別指資料、張量、專家並行,TEP 是張量與專家並行的組合,DEP 是資料與專家並行的組合;這些示例配置是按特定部署規模設計的,實際視訊記憶體需求、可用上下文長度與併發能力會隨檢查點、推理框架和 KV 快取分配而變化。
以 vLLM 為例,官方給出的示例是在埠 18000 上暴露 OpenAI 相容 API,請求中的模型名為 step5。流程上先拉取映象並啟動帶 GPU 的互動式容器,再在容器內執行服務命令;若檢查點需要鑑權,需先執行 hf auth login。以單節點 4 張 B300 的 FP8 為例,可選 TP4、TEP4、DEP4 三種並行模式,其中 TEP4 與 DEP4 在 B300(Blackwell)上會啟用 MegaMoE 與 deep_gemm_mega_moe 後端,而 TP4 使用預設 MoE 後端,因為 MegaMoE 需要專家並行。服務命令中設定了最大模型長度 1048576、最大批處理 token 數 16384、最大序列數 64、GPU 視訊記憶體利用率 0.85,並開啟字首快取、投機解碼(mtp,3 個 token)、推理解析器與自動工具選擇等選項。
從產業視角看,這條釋出傳遞出幾個訊號。第一,稀疏 MoE + 超長上下文已成為頭部模型在智慧體賽道上的標準配置:600B 總引數保證知識容量,27B 啟用引數控制單次推理的算力開銷,1M 上下文則支撐跨檔案、跨文件的長程任務。第二,官方把金融單獨列為強項,意味著模型競爭正從通用能力向高價值垂直場景下沉,這對金融資料、量化研究與合規文件處理等下游應用是一個值得跟蹤的方向。第三,部署配置直接點名 B300 與 H200,說明這類旗艦模型的落地仍高度依賴高階算力,單機多卡與多機多卡的並行方案、FP8 與 BF16 的精度取捨,都會直接影響推理成本與可服務併發,進而牽動算力採購與雲服務定價的討論。對關注 AI 產業鏈的讀者而言,模型規格與部署門檻的變化,往往比單純的榜單分數更能反映算力需求的真實走向。