AMD、超微(Super Micro Computer)与Spectro Cloud于8月5日联合发布了AMD Instinct Coder,这是一款面向企业软件团队的一体化AI编程解决方案,旨在帮助组织在扩展AI辅助软件开发的同时,更好地控制源代码、模型使用和成本。该产品采用本地优先的混合架构,为企业提供完整的AI软件开发平台,以应对AI编程从个人工具向企业平台决策转变的趋势。
随着AI成为企业软件开发的核心部分,开发者利用AI生成代码、现代化应用、自动化测试并加速交付。然而,随着这些能力的规模化,企业面临应用、自动化代理和令牌成本的快速上升,同时需要保护专有源代码、实施一致的治理,并避免自行组装和运营本地AI基础设施的复杂性。AMD Instinct Coder通过混合的本地优先方法解决这些需求,让企业能够更简单地运行更多本地工作负载,有选择地使用前沿模型,并自行运营基础设施。
在硬件层面,初始配置基于超微AS-8126GS-TNMR系统,配备两颗AMD EPYC处理器、八块AMD Instinct GPU以及AMD Pensando网络技术。AMD的AI技术贯穿整个解决方案,从主机计算、AI加速到网络和优化模型部署。八块Instinct GPU专为内存密集型AI推理设计,高频率EPYC处理器提供高性能主机节点,Pensando网络方案带来高带宽以太网连接。超微负责将这些技术整合为八加速器AI系统,并提供系统级工程、集成和认证。
软件层面由Spectro Cloud的Inference Launchpad承担,它根据企业策略、工作负载复杂度、模型能力、基础设施可用性和成本来路由请求。合适的编码工作负载可在本地部署的模型上运行,而高级推理和专门任务在需要时继续使用前沿模型。Spectro Cloud的PaletteAI和Inference Launchpad提供策略路由、计量和治理功能,使AI推理使用保持可见和可控。
AMD高级副总裁兼计算与企业AI总经理Dan McNamara表示,AI编程正从个人开发者工具转变为企业平台决策,组织需要控制代码处理位置、使用的模型以及使用成本。Spectro Cloud联合创始人兼CEO Tenry Fu强调,本地优先的AI推理只有在企业能够简单、安全且规模化地部署和运营时才有价值。超微首席商务官Vik Malyala则指出,超微专注于帮助企业、云提供商和主权AI运营商更快部署生产级AI基础设施,此次合作提供了经过验证的一体化推理解决方案。
该方案将复杂的DIY基础设施项目替换为打包的解决方案,客户可以轻松部署和管理。这一合作反映了AI编程市场的竞争加剧,AMD通过整合硬件和软件生态,试图在企业AI推理领域占据一席之地,同时为超微和Spectro Cloud带来新的市场机会。