由德國人工智慧協會（KI Bundesverband）協調的一個研究聯盟正式釋出了開源語言模型Soofi S 30B-A3B，該模型完全在德國電信位於慕尼黑的工業AI雲基礎設施上完成訓練，成為首批完全依託歐洲本土雲平台訓練的大語言模型之一。根據其預訓練報告，Soofi S在英語和德語基準測試中均取得全開源模型中的最高綜合得分，超越了此前的領先者OLMo 3 32B和Apertus 70B。

Soofi S採用混合專家（MoE）架構，總引數量為316億，但每生成一個token僅啟用約32億引數，實際計算成本更接近一個30億引數模型而非傳統300億引數模型。其架構直接沿用了輝達Nemotron 3 Nano的設計，將Mamba-2層與標準注意力層相結合。這種混合設計的關鍵優勢在於記憶體行為：傳統Transformer模型中儲存歷史token的KV快取會隨上下文長度線性增長，在長輸入和高併發請求下成為瓶頸，而Soofi S的52層中僅有6層需要維護此類快取。

實際效果體現在生成吞吐量上。在上下文長度4萬token、32個並行請求的條件下，Soofi S每GPU每秒生成的token數約為引數量在140億至240億之間的稠密模型的8倍。當上下文從4000 token擴充套件到25.6萬token時，傳統模型的吞吐量顯著下降，而Soofi S幾乎保持平穩。在測量中，僅阿里巴巴的Qwen3.5 35B-A3B表現出類似行為，該模型同樣採用混合架構。

訓練資料方面，聯盟總共處理了約27萬億token，分三個階段進行。第一階段使用約20萬億token的廣泛網路、程式碼、數學和領域文本混合資料，讓模型學習語言基礎；第二階段使用約6萬億token的更高質量資料，以強化前期學到的模式；第三階段則通過訓練最長100萬token的超長文件來擴充套件上下文視窗。德語資料的佔比在整個過程中刻意提高：第一階段德語佔7.2%，第二階段升至15.3%，而輝達Nemotron的參考配方中所有非英語語言合計僅佔約5%。資料來源包括HPLT的德語網路文本、開放許可的German Commons語料庫、FinePDFs和FineWiki的德語部分，以及包含916家德國出版物、1.93億篇報紙文章的商業授權Genios語料庫，並輔以機器翻譯和合成生成的德語文本。

在與其他16個開源模型的對比評估中，Soofi S在德語和英語的綜合得分上均領先所有全開源模型，包括艾倫人工智慧研究所的OLMo 3 32B和蘇黎世聯邦理工學院與洛桑聯邦理工學院聯合開發的Apertus 70B。面對所有歐洲主權基線模型，Soofi S在德語基準套件的每一項測試中均勝出，部分領先幅度達到兩位數。在程式碼基準上，Soofi S在HumanEval上得分73.8%，MBPP上得分70.2，德語版MBPP上得分84.2，均為開源競品中最佳。在測試德國特定區域知識的INCLUDE-DE基準上，Soofi S以61.2分與更大的Qwen3.5 35B-A3B並列第一。與Nemotron基線相比，德語資料配方使語言能力提升15.1分，科學測試GPQA-Diamond提升9.6分，且未犧牲英語表現。

不過，Soofi S在德語競賽數學上表現較弱，在Minerva MATH-DE上僅得56分，遠低於Qwen3.5 35B-A3B的76.5分和Gemma 3 27B的65.6分，在開放事實檢索NaturalQuestions上也落後。這很可能與其僅30億活躍引數有關，能儲存的世界知識少於稠密的270億引數模型。儘管如此，面對更大規模的開源權重模型，Soofi S仍保持競爭力，並持續優於其架構完全相同的參考模型Nemotron 3 Nano。該模型的釋出標誌著歐洲在構建自主AI基礎設施和以本地語言優先的大模型方面邁出了實質性一步，其高效架構設計也為長上下文場景下的部署成本控制提供了可行路徑。