DeepSeek釋出了一套開源推理服務軟體,其專案程式碼樹將華為昇騰處理器與輝達當前資料中心GPU列為對等的構建目標,意味著同一套程式碼庫可同時為兩類硬體編譯服務程式。按照公開的設計思路,在兩者之間遷移工作負載更接近於切換配置項,而非重寫整個軟體棧。
這一變化觸及了中國機房裡的一個現實問題。過去,團隊往往在寫第一行服務程式碼之前就鎖定了晶片供應商,圍繞單一廠商的工具鏈做規劃。如今,如果雙路徑軟體在真實負載下站得住腳,採購和平台團隊面對的問題就從“能否移植到國產晶片”變成了“本季度能買到、能供電、能跑滿付費流量的板卡是哪一款”。
訓練與推理對硬體的偏好並不相同。訓練仍然青睞成熟深厚的軟體生態和緊密的多晶片互聯,頭部廠商在這方面的領先不會因為一個程式碼倉庫而消失。推理則更直接:權重固定,使用者按輸出的token付費,延遲、每百萬token成本、正常執行時間以及機架利用率決定勝負。替代加速器在推理場景中一直顯得比訓練叢集更有機會,前提是軟體不再把它們當作事後補充。DeepSeek此次釋出正是瞄準這一縫隙,通過把兩個硬體家族放進同一支援層級,降低了供應緊張時保持靈活性的額外成本。
有貿易報道稱,中國大型網際網路公司仍在大量採購輝達部件,部分產品被用於AI任務,已超出純訓練SKU的範疇。當交付出現延遲時,雙路徑軟體就成了一種對沖。新專案可以在同一套運營模型內權衡價格、交貨週期和政策約束,而不必為每個選擇重建技術棧。
不過,營銷主張與工程驗證仍是兩回事。與此次釋出相關的公開基準表主要依賴輝達硬體,昇騰在相同模型、相同批大小和相同延遲目標下的並列資料在公開渠道較為稀薄。公司也將此次釋出定位為離線推理,這對測量和整合有用,但並不能完整反映大型生產叢集所需的全部元件,例如跨節點的快取管理、負載均衡以及那些不起眼的控制平面。能在兩種架構上編譯只是起點,扛住峰值流量才是考試。
現有廠商也在給出自己的答案。輝達一直在推進針對其GPU調優的開放與半開放服務層,並向生產級編排迭代。一個試圖讓後端平等的軟體故事,自然會引來仍出貨最搶手板卡的公司以軟體回應。更上游,圍繞下一代訓練晶片的聯合設計討論、工程師參與以及減少對外國供應依賴的期望,仍屬於更長的週期。過去幾輪旗艦模型與旗艦國產加速器的搭配,已經讓行業學會等待訓練執行結果,而不是路線圖。
眼下有意義的改變發生在服務層。中國運營方正被推理需求淹沒,併為每一塊可獲得的加速器進行談判。拒絕將單一供應商硬編碼進架構的框架,為採購和平台團隊留出了迴旋餘地。昇騰能否作為真正的對等選項佔據這個空間,將由瓦特、毫秒和發票來決定,而不是文件頁面上支援矩陣的對稱性。