DeepSeek在週二下午宣佈，將內部推理框架DeepInfer全面開源，進一步開放大模型推理基礎設施，目標是幫助開發者和企業降低大規模AI服務的算力成本與能源消耗。

DeepInfer集成了高效能運算元與最佳化推理引擎，支援分散式推理、推測解碼、結構化輸出等能力，併兼容輝達與華為昇騰兩大硬體平台。這意味著開發者可以在不同晶片生態上部署該框架，減少對單一硬體供應商的依賴。

基於DeepInfer，DeepSeek已實現DeepSeek V4.1 Flash的高吞吐、低延遲大規模推理服務。同時，DeepSeek還開源了生產級Token編解碼元件deepseek-recipe，確保社群獲得與官方部署一致的API體驗。未來，DeepSeek新模型的推理程式碼及後續最佳化也將在DeepInfer上持續更新。

DeepSeek表示，希望通過開放模型、運算元庫及推理框架，幫助開發者最佳化推理效率、降低部署成本，推動AI服務以更低成本觸達更廣泛的使用者。

從產業視角看，推理環節正成為AI商業化落地的關鍵戰場。隨著大模型從訓練走向大規模應用，推理的算力消耗和能耗成本直接決定了服務商的盈利能力與終端定價。DeepSeek此次開源推理框架，不僅延續了其在模型開源上的策略，更將開放範圍延伸至推理基礎設施層，可能對現有推理服務市場格局產生影響。

相容華為昇騰平台尤其值得關注。在輝達GPU供應受限的背景下，國產算力生態的軟體適配成為關鍵瓶頸。DeepInfer對昇騰的支援，有助於降低開發者遷移至國產硬體的門檻，對推動國產AI晶片的推理應用具有積極意義。

此外，同步開源Token編解碼元件，意味著社群開發者可以復現與官方一致的API體驗，這有助於構建更統一的開發者生態，減少因編解碼差異導致的效果偏差。

總體而言，DeepSeek通過開源推理框架，試圖在模型層之外構建更完整的工具鏈，以降低AI服務的整體擁有成本。這一舉措能否實質性地降低行業推理成本，還需觀察社群採用情況與後續最佳化進展。