AI基礎設施提供商Crusoe與AI研究機構Thinking Machines Lab於2026年9月23日宣佈,雙方達成一項價值6500萬美元的年度協議,Thinking Machines Lab將把其開源模型的生產推理工作負載遷移至Crusoe Cloud。
根據協議,Thinking Machines Lab將通過Crusoe託管推理服務(Crusoe Managed Inference)執行一系列生產任務,涵蓋其Inkling模型、GLM 5.2與5.3,以及該實驗室自行微調的模型變體。這些工作負載將執行在一套專用的定製部署(Tailored Deployment)上,底層硬體為輝達HGX B200系統,並通過輝達Quantum-2 InfiniBand網路互聯,整體設計目標是實現高吞吐、高性價比的大規模推理服務。
Crusoe將直接運營並支援該叢集。這種定製部署模式提供專用、經過基準測試且帶有服務等級協議(SLA)保障的端點,使Thinking Machines Lab無需自行管理推理技術棧,即可獲得所需的價效比與擴充套件空間。雙方還計劃將合作擴充套件至批次推理領域,用於大規模合成數據生成,從而把推理環節轉化為研究迭代的飛輪。
Thinking Machines Lab的機器學習基礎設施負責人Myle Ott表示,Crusoe託管推理服務幫助團隊快速從評估階段進入生產階段,並達到了該實驗室對自有系統的標準,使其能夠獲得規模與經濟性,從而將資源重新投入核心研究。Crusoe Cloud產品管理高階副總裁Erwan Menard則指出,Thinking Machines Lab擁有非常成熟的工程團隊,對合作夥伴的要求很高;Crusoe的AI工程師團隊打造託管推理服務,正是為了以服務形式提供高性價比、可靠的基礎設施、推理能力與模型生命週期工具,讓創新企業能夠大規模執行其偏好的模型。
從產業視角看,這筆交易反映出兩個值得關注的趨勢。其一,開源模型實驗室正越來越多地將推理環節外包給專業基礎設施商,而非全部自建。推理與訓練不同,更強調單位成本、吞吐量和穩定性,自建推理棧對工程團隊的持續投入要求很高。Thinking Machines Lab選擇託管模式,說明在模型能力競爭之外,推理的經濟性正成為實驗室運營的關鍵考量。其二,Crusoe披露,Thinking Machines Lab的加入使其託管推理服務的合同年度經常性收入(ARR)在上線不到一年內突破1億美元。這一數字表明,面向AI推理的託管服務正在形成可觀的商業規模,也意味著算力租賃市場的競爭正從單純的GPU供給,向包含模型生命週期工具在內的服務化能力延伸。
對上游算力供應鏈而言,協議明確採用輝達HGX B200與Quantum-2 InfiniBand,顯示高階GPU與高速網路仍是生產級推理部署的主流選擇。對Crusoe這類垂直整合的基礎設施商來說,能否持續吸引頭部模型實驗室,將取決於其能否在價格、可靠性與擴充套件性之間保持平衡。而Thinking Machines Lab將推理外包後,能否把節省的工程資源轉化為更快的模型迭代,則是這筆交易對其研究節奏的實際影響所在。