MiniMax 正式推出其新一代原生多模态大模型 MiniMax-M3,模型卡已在 Hugging Face 平台上线。M3 是一个总参数量约 4280 亿、激活参数约 230 亿 的混合专家(MoE)架构模型,原生支持最长 100 万 token 的上下文窗口,能够同时处理文本、图像和视频输入。
此次发布的亮点之一在于训练范式。MiniMax 强调 M3 从训练的第一步起就采用混合模态数据,而非在纯文本基座上后期嫁接视觉模块。这种原生多模态训练路线旨在实现文本、图像与视频之间更深层的语义融合,使模型在跨模态理解与生成任务上具备更一致的表现。
在长上下文处理效率方面,M3 引入了 MiniMax 稀疏注意力机制(MiniMax Sparse Attention,简称 MSA)。与传统的分组查询注意力(GQA)相比,MSA 在百万 token 级别大幅降低了注意力计算量和显存占用。根据官方技术报告,在 100 万 token 的上下文场景下,M3 相较上一代模型 M2 取得了 9 倍的预填充(prefill)速度提升和 15 倍的解码(decode)速度提升,单 token 计算量降至原来的 二十分之一。这一效率突破意味着,在超长文档分析、大规模代码库理解、长视频内容处理等场景中,M3 的推理延迟和算力成本将显著下降。
在能力定位上,M3 特别强调了 编程与协作智能体(coding cowork) 方向。模型在长周期智能体基准测试中达到前沿水平,表明其不仅具备代码生成能力,还能在需要多步骤规划、工具调用和持续交互的复杂任务中保持稳定表现。这对于将大模型嵌入开发工作流、构建 AI 编程助手等应用场景具有直接价值。
为降低本地部署门槛,MiniMax 同步开源了 MXFP8 量化版本,在保持模型质量的前提下压缩了存储与推理资源需求。官方推荐使用 SGLang、vLLM 或 Transformers 等主流推理框架进行部署,并给出了推理参数建议:温度设为 1.0,top_p 设为 0.95。模型权重可通过 Hugging Face 直接下载。
在 API 调用层面,MiniMax 为 M3 提供了三种推理模式:enabled(始终启用推理)、adaptive(模型自动判断是否需要额外推理)和 disabled(关闭推理以最小化延迟、最大化吞吐量)。这种灵活配置让开发者可以根据具体任务在响应速度与推理深度之间做出权衡,有利于在不同商业场景中控制成本与用户体验。
从产业视角看,M3 的发布进一步加剧了国内大模型厂商在多模态与长上下文两条技术路线上的竞争。百万 token 上下文窗口此前主要由海外头部模型率先突破,M3 通过稀疏注意力机制在效率端的创新,为同等量级模型的工程落地提供了新思路。其 4280 亿总参数与 230 亿激活参数的 MoE 设计,也在模型容量与推理成本之间寻求平衡——总参数规模保证了知识容量,而较低的激活参数占比则控制了单次推理的计算开销。
技术报告已公开于 arXiv:2606.13392,供研究者查阅完整细节。MiniMax 方面表示,用户可通过 model@minimax.io 联系团队获取更多技术支持。