腾讯混元团队正式发布 Hy3 大语言模型,并在 Hugging Face、ModelScope 等平台开源模型权重,同时提供 FP8 量化版本。Hy3 采用 混合专家(MoE)架构,总参数量达 295B,但每次推理仅激活 21B 参数,外加 3.8B 的 MTP 层参数,在控制计算成本的同时追求旗舰级性能。
此次发布距离 Hy3 Preview 版本仅约一个月。团队称,在 Preview 阶段收集了超过 50 个产品团队的反馈,修复了任务执行与交互中的多项问题,并扩大了后训练数据的规模与多样性。正式版 Hy3 在推理、智能体工作流和长上下文任务上均有显著提升,上下文窗口达到 256K。
在性能对标上,腾讯混元并未单纯依赖公开基准分数。团队邀请了 270 位来自不同领域的专家,基于真实工作流进行盲测,收集了 312 份有效对比。结果显示,Hy3 综合得分 2.67/4,高于 GLM-5.1 的 2.51/4,优势在前端开发、CI/CD 和数据存储等场景尤为突出。团队强调,Hy3 的性能已接近国内外领先旗舰模型,但参数量仅为后者的几分之一,定位为“更可靠、更具成本效益”的选择。
产品化能力是本次更新的重点。团队从用户反馈和产品遥测数据中识别出多项影响实际体验的行为问题,并针对性优化。在输出格式与工具调用稳定性方面,Hy3 修复了多个基线可靠性缺陷,工具调用成功率与错误恢复能力提升,无效调用导致的无限循环问题减少。模型在不同智能体框架(如 CodeBuddy、Cline、KiloCode)上的表现差异控制在 4% 以内,展现出良好的泛化性。
在世界知识与反幻觉方面,团队设定了“有据则答、缺证则言、不混淆来源、不编造数据”的理想行为模式,通过细粒度数据清洗与专项训练约束,将真实场景下的幻觉率从 12.5% 降至 5.4%,常识错误率从 25.4% 降至 12.7%。这直接减少了事实混淆、凭空捏造和逻辑矛盾等问题。
复杂上下文保持与多轮意图追踪同样是优化重点。通过监督微调与强化学习的联合优化,Hy3 在指代消解、省略恢复和多轮约束继承等环节取得进展,内部综合多轮测试问题率从 17.4% 降至 7.9%,在开源长对话基准 MRCR 上的得分从 42.9% 跃升至 75.1%。整体输出更简洁,同时确保复杂意图在长程交互中不衰减、不漂移。
部署方面,Hy3 总参数量较大,团队建议使用 8 张 H20-3e 或更大显存的 GPU 进行服务。模型支持 vLLM 和 SGLang 推理框架,并提供 OpenAI 兼容 API 调用示例。用户可通过设置 reasoning_effort 参数切换推理模式:复杂任务选用“high”以启用深度思维链,常规对话使用“no_think”直接响应。
此次开源延续了腾讯混元系列的技术路线。Hy3 以 Apache-2.0 协议发布,允许商用。在 MoE 架构日益成为大模型降本增效主流选择的背景下,Hy3 的推出为开发者与企业用户提供了一个在性能与成本之间寻求平衡的新选项,也可能对 AI 应用层的模型选型产生实际影响。