書生(InternLM)在 Hugging Face 上正式釋出了其最新的多模態基礎模型 Intern-S2-Preview-397B,引數規模達到 403B。該模型被定位為團隊目前能力最強的科學智慧與長程智慧體模型,採用 Apache-2.0 許可證開源。

模型的核心突破在於同時沿三個關鍵維度進行擴充套件:預訓練範式、強化學習任務覆蓋範圍以及互動式智慧體環境。在預訓練階段,Intern-S2-Preview-397B 引入了一種新的視覺-語言預訓練方法,能夠直接從原始科學文獻頁面中學習,在共享表示空間內聯合建模符號語義與視覺關係,無需中間解析步驟。這一設計保留了文本與視覺的對應關係,增強了空間推理與視覺推理能力,並提升了資料效率。

在科學推理與生成方面,該模型通過跨 20 多個領域 的大規模多樣化科學強化學習任務聯合訓練,在開源模型中取得了通用推理的領先效能,並在 生物分子相互作用設計材料結構生成 等專業科學任務上表現強勁。此外,通過將多個智慧體框架連線到大規模沙盒環境進行黑盒智慧體強化學習,模型在通用與科學領域的長程任務中提升了泛化能力與能力上限。

效能評估顯示,Intern-S2-Preview-397B 在多個基準測試中與近期視覺語言模型和大語言模型進行了對比。在文本推理基準上,模型以最大 256K token 的推理長度進行評估;在多模態基準上,則以最大 64K token 的推理長度執行。官方報告指出,該模型在開源模型中多項指標取得最佳成績(下劃線標註),並在部分指標上達到所有模型中的最優表現(加粗標註)。評估工具採用了 OpenCompassVLMEvalKitAgentCompass

在部署與使用方面,Intern-S2-Preview-397B 支援通過 LMDeployvLLMSGLang 等主流大語言模型推理框架進行部署,官方提供了詳細的部署指南。推薦取樣引數為 top_p=0.95、top_k=50、min_p=0.0、temperature=0.8。模型還具備工具呼叫能力,可通過 OpenAI 相容介面呼叫外部函式與 API,擴充套件其在即時資料獲取等場景中的應用。

此次釋出延續了書生團隊在多模態與科學智慧領域的持續投入。與以往模型相比,Intern-S2-Preview-397B 在科學文獻理解、跨領域推理和長程任務執行上邁出了實質性一步。對於 AI 產業而言,該模型將多模態能力與科學計算、智慧體框架深度融合,可能為藥物發現、材料科學、複雜系統模擬等場景提供新的基礎工具,同時也為開源社群貢獻了一個高規格的實驗與開發基座。