阶跃星辰(StepFun)在 Hugging Face 上发布了旗舰模型 Step 5 Preview 的 BF16 版本,定位为面向智能体(agentic)工作的旗舰模型。官方给出的核心规格是:600B 总参数、27B 激活参数,采用稀疏混合专家(MoE)架构,上下文窗口最高支持 100 万 token,最大输出同样可达 100 万 token,输入模态覆盖文本与图像。
从能力描述看,Step 5 Preview 重点押注三个方向。其一是软件工程:模型支持仓库级代码工作,能够在大规模代码库中导航、跨文件协调修改、运行并验证代码,再根据结果迭代,同时覆盖前端与可视化开发以及面向设备的编程。其二是长程智能体执行:模型可以完成需要反复调用工具、执行、验证与修正的任务,并在整个流程中持续利用长上下文信息。其三是专业知识工作:结合研究、多模态理解与工具调用,对长文档、图表、截图、图像和视频进行分析,产出结构化报告与分析。官方特别强调该模型在金融任务上表现突出,尤其是需要将量化推理与财务数据、配套文档分析结合起来的工作。
性能部分,官方说明其评测覆盖编程、智能体任务、专业知识工作与金融四类,并给出了推荐推理设置:temperature=1.0、top_p=0.95、top_k=0,展示结果使用 High 推理档位。其中 GDPval-AA v2.1 的分数基于 Artificial Analysis 截至 2026 年 9 月 20 日的结果;DeepSWE v1.1 评测使用 SWE-agent 框架,参数为 temperature=1.0、top_p=0.95。更详细的评测背景、方法与案例,官方指向 Step 5 Preview 的模型页面。
部署方面,Step 5 Preview 可通过 vLLM 或 SGLang 以 OpenAI 兼容 API 方式提供服务,也可用独立的 Transformers 实现做离线生成,示例覆盖 FP8 与 BF16 两种检查点。官方提醒需使用包含 Step 5 Preview 支持的框架版本,以启用推理、工具调用与投机解码等功能。
具体配置上,vLLM 的 FP8 版本可在单台 B300 节点上用 4 张 GPU(TP4、TEP4 或 DEP4),或在单台 H200 节点上用 8 张 GPU(TP8、TEP8 或 DEP8);BF16 版本则需单台 B300 节点 8 张 GPU,或两台 H200 节点共 16 张 GPU。Transformers 路径下,FP8 用单台 H200 节点 8 卡(TP8/EP8)离线生成,BF16 需两台 H200 节点 16 卡。SGLang 的 FP8 配置与 vLLM 类似,可在单台 B300 节点 4 卡或单台 H200 节点 8 卡上以 OpenAI 兼容 API 提供服务。官方解释,DP、TP、EP 分别指数据、张量、专家并行,TEP 是张量与专家并行的组合,DEP 是数据与专家并行的组合;这些示例配置是按特定部署规模设计的,实际显存需求、可用上下文长度与并发能力会随检查点、推理框架和 KV 缓存分配而变化。
以 vLLM 为例,官方给出的示例是在端口 18000 上暴露 OpenAI 兼容 API,请求中的模型名为 step5。流程上先拉取镜像并启动带 GPU 的交互式容器,再在容器内运行服务命令;若检查点需要鉴权,需先执行 hf auth login。以单节点 4 张 B300 的 FP8 为例,可选 TP4、TEP4、DEP4 三种并行模式,其中 TEP4 与 DEP4 在 B300(Blackwell)上会启用 MegaMoE 与 deep_gemm_mega_moe 后端,而 TP4 使用默认 MoE 后端,因为 MegaMoE 需要专家并行。服务命令中设置了最大模型长度 1048576、最大批处理 token 数 16384、最大序列数 64、GPU 显存利用率 0.85,并开启前缀缓存、投机解码(mtp,3 个 token)、推理解析器与自动工具选择等选项。
从产业视角看,这条发布传递出几个信号。第一,稀疏 MoE + 超长上下文已成为头部模型在智能体赛道上的标准配置:600B 总参数保证知识容量,27B 激活参数控制单次推理的算力开销,1M 上下文则支撑跨文件、跨文档的长程任务。第二,官方把金融单独列为强项,意味着模型竞争正从通用能力向高价值垂直场景下沉,这对金融数据、量化研究与合规文档处理等下游应用是一个值得跟踪的方向。第三,部署配置直接点名 B300 与 H200,说明这类旗舰模型的落地仍高度依赖高端算力,单机多卡与多机多卡的并行方案、FP8 与 BF16 的精度取舍,都会直接影响推理成本与可服务并发,进而牵动算力采购与云服务定价的讨论。对关注 AI 产业链的读者而言,模型规格与部署门槛的变化,往往比单纯的榜单分数更能反映算力需求的真实走向。