AMD、超微(Super Micro Computer)與Spectro Cloud於8月5日聯合釋出了AMD Instinct Coder,這是一款面向企業軟體團隊的一體化AI程式設計解決方案,旨在幫助組織在擴充套件AI輔助軟體開發的同時,更好地控制原始碼、模型使用和成本。該產品採用本地優先的混合架構,為企業提供完整的AI軟體開發平台,以應對AI程式設計從個人工具向企業平台決策轉變的趨勢。
隨著AI成為企業軟體開發的核心部分,開發者利用AI生成程式碼、現代化應用、自動化測試並加速交付。然而,隨著這些能力的規模化,企業面臨應用、自動化代理和令牌成本的快速上升,同時需要保護專有原始碼、實施一致的治理,並避免自行組裝和運營本地AI基礎設施的複雜性。AMD Instinct Coder通過混合的本地優先方法解決這些需求,讓企業能夠更簡單地執行更多本地工作負載,有選擇地使用前沿模型,並自行運營基礎設施。
在硬體層面,初始配置基於超微AS-8126GS-TNMR系統,配備兩顆AMD EPYC處理器、八塊AMD Instinct GPU以及AMD Pensando網路技術。AMD的AI技術貫穿整個解決方案,從主機計算、AI加速到網路和最佳化模型部署。八塊Instinct GPU專為記憶體密集型AI推理設計,高頻率EPYC處理器提供高效能主機節點,Pensando網路方案帶來高頻寬乙太網路連線。超微負責將這些技術整合為八加速器AI系統,並提供系統級工程、整合和認證。
軟體層面由Spectro Cloud的Inference Launchpad承擔,它根據企業策略、工作負載複雜度、模型能力、基礎設施可用性和成本來路由請求。合適的編碼工作負載可在本地部署的模型上執行,而高階推理和專門任務在需要時繼續使用前沿模型。Spectro Cloud的PaletteAI和Inference Launchpad提供策略路由、計量和治理功能,使AI推理使用保持可見和可控。
AMD高階副總裁兼計算與企業AI總經理Dan McNamara表示,AI程式設計正從個人開發者工具轉變為企業平台決策,組織需要控制程式碼處理位置、使用的模型以及使用成本。Spectro Cloud聯合創始人兼CEO Tenry Fu強調,本地優先的AI推理只有在企業能夠簡單、安全且規模化地部署和運營時才有價值。超微首席商務官Vik Malyala則指出,超微專注於幫助企業、雲提供商和主權AI運營商更快部署生產級AI基礎設施,此次合作提供了經過驗證的一體化推理解決方案。
該方案將複雜的DIY基礎設施專案替換為打包的解決方案,客戶可以輕鬆部署和管理。這一合作反映了AI程式設計市場的競爭加劇,AMD通過整合硬體和軟體生態,試圖在企業AI推理領域佔據一席之地,同時為超微和Spectro Cloud帶來新的市場機會。