騰訊混元團隊正式釋出並開源了Hy3-FP8模型,這是繼4月底Hy3預覽版之後的一次重大更新。該模型採用混合專家(MoE)架構,總引數量達到2950億,但每次推理僅啟用210億引數,外加38億MTP層引數,在保持高效能的同時控制了計算成本。模型上下文視窗達到256K,支援BF16精度,並以Apache-2.0協議在Hugging Face、ModelScope、GitCode和CNB等多個平台開放權重。
在核心能力上,Hy3相較預覽版在推理、智慧體執行和長上下文處理方面均有顯著提升。團隊組織了270名專家進行內部盲測,使用各自工作中的實際任務評估,Hy3獲得2.67分(滿分4分),超過了GLM-5.1的2.51分,尤其在前端開發、資料儲存和CI/CD任務上優勢明顯。團隊強調,公開基準測試並不能完全反映模型真實效用,因此更看重產品反饋驅動的迭代。
產品可靠性是本次升級的重點。團隊根據50餘款產品的反饋,針對性地解決了多個生產級問題。在工具呼叫穩定性上,Hy3修復了多項基線可靠性缺陷,使工具呼叫錯誤恢復能力和整體效率達到生產標準,且在CodeBuddy、Cline、KiloCode等不同智慧體框架下的SWE-Bench Verified準確率方差控制在4%以內。
在知識準確性與反幻覺方面,團隊遵循“有據則答、無據則明、不混淆來源、不編造資料”的原則,通過細粒度資料清洗和訓練約束,將內部真實場景評估中的幻覺率從12.5%降至5.4%,常識錯誤率從25.4%降至12.7%,有效減少了事實混淆、捏造和邏輯矛盾。
多輪對話中的複雜上下文保持和意圖追蹤同樣得到強化。通過SFT與RL的聯合最佳化,Hy3在指代消解、省略恢復和多輪約束繼承等痛點上的問題率從17.4%降至7.9%,在MRCR等長對話評測中進步明顯,輸出更簡潔的同時確保複雜意圖在長程互動中不衰減或漂移。
部署方面,Hy3總引數量大,官方推薦使用H20-3e等大視訊記憶體GPU進行8卡服務。團隊為vLLM和SGLang兩大推理框架提供了專用部署方案,支援MTP推測解碼以加速生成。使用者可通過OpenAI相容API呼叫,並可通過設定`reasoning_effort`引數在“直接回答”與“深度思維鏈”模式間切換,適應不同任務需求。
此次Hy3的開源,不僅為開發者社群提供了一個在編碼、辦公、金融建模、前端設計和遊戲開發等生產力場景中經過驗證的可靠模型選項,也反映出騰訊混元團隊在模型實用化上的工程思路:不單純追求基準跑分,而是通過大規模產品反饋閉環,系統性地提升模型的穩定性、準確性和可控性。