腾讯混元团队正式发布并开源了Hy3-FP8模型,这是继4月底Hy3预览版之后的一次重大更新。该模型采用混合专家(MoE)架构,总参数量达到2950亿,但每次推理仅激活210亿参数,外加38亿MTP层参数,在保持高性能的同时控制了计算成本。模型上下文窗口达到256K,支持BF16精度,并以Apache-2.0协议在Hugging Face、ModelScope、GitCode和CNB等多个平台开放权重。

在核心能力上,Hy3相较预览版在推理、智能体执行和长上下文处理方面均有显著提升。团队组织了270名专家进行内部盲测,使用各自工作中的实际任务评估,Hy3获得2.67分(满分4分),超过了GLM-5.1的2.51分,尤其在前端开发、数据存储和CI/CD任务上优势明显。团队强调,公开基准测试并不能完全反映模型真实效用,因此更看重产品反馈驱动的迭代。

产品可靠性是本次升级的重点。团队根据50余款产品的反馈,针对性地解决了多个生产级问题。在工具调用稳定性上,Hy3修复了多项基线可靠性缺陷,使工具调用错误恢复能力和整体效率达到生产标准,且在CodeBuddy、Cline、KiloCode等不同智能体框架下的SWE-Bench Verified准确率方差控制在4%以内

在知识准确性与反幻觉方面,团队遵循“有据则答、无据则明、不混淆来源、不编造数据”的原则,通过细粒度数据清洗和训练约束,将内部真实场景评估中的幻觉率从12.5%降至5.4%,常识错误率从25.4%降至12.7%,有效减少了事实混淆、捏造和逻辑矛盾。

多轮对话中的复杂上下文保持和意图追踪同样得到强化。通过SFT与RL的联合优化,Hy3在指代消解、省略恢复和多轮约束继承等痛点上的问题率从17.4%降至7.9%,在MRCR等长对话评测中进步明显,输出更简洁的同时确保复杂意图在长程交互中不衰减或漂移。

部署方面,Hy3总参数量大,官方推荐使用H20-3e等大显存GPU进行8卡服务。团队为vLLMSGLang两大推理框架提供了专用部署方案,支持MTP推测解码以加速生成。用户可通过OpenAI兼容API调用,并可通过设置`reasoning_effort`参数在“直接回答”与“深度思维链”模式间切换,适应不同任务需求。

此次Hy3的开源,不仅为开发者社区提供了一个在编码、办公、金融建模、前端设计和游戏开发等生产力场景中经过验证的可靠模型选项,也反映出腾讯混元团队在模型实用化上的工程思路:不单纯追求基准跑分,而是通过大规模产品反馈闭环,系统性地提升模型的稳定性、准确性和可控性。