博通(Broadcom)CEO陈福阳(Hock Tan)周一在高盛Communacopia + Technology会议上表示,企业采用生成式人工智能仍处于早期阶段,各公司仍在寻找能带来可观投资回报的用例。他预计,AI领域最大的经济价值将归于最强大的前沿模型开发者及其相关应用,而博通正通过定制XPU支持这些客户,并已扩大与OpenAI和谷歌的合作。
陈福阳透露,博通约3万名工程师中,已有约1.5万人参与评估AI工具在硬件和软件开发中的应用。他认为,AI近期最明确的价值在于提升工程质量和加速新技术开发,而非广泛替代人力或带来直接的生产力提升。他以半导体开发为例,指出避免一次芯片重新流片(respin)可节省约3000万美元成本,并避免项目延期六个月。他形容AI“帮助聪明人变得更聪明”,最有效的用户是那些了解自身环境并能有效提示AI模型的批判性思考者和资深架构师。博通还在网络安全领域使用AI,并已开始探索智能体(agent)的应用。
关于AI价值分配,陈福阳认为,最强大的前沿模型开发者及其应用将占据行业经济价值的大部分。他用一个示例说明:一个由1吉瓦计算能力支持的前沿模型,每年可产生300亿美元的经常性收入,而运营成本约为100亿美元。在此情景下,模型开发者及其应用将保留较大份额,云服务商、电力供应商、芯片制造商和内存供应商则竞争剩余支出。他明确表示偏好封闭前沿模型而非开放权重模型,尽管承认两者可共存。他援引推理经济学数据称,全球token生成基础设施成本每年约2000亿美元,而模型相关收入约1500亿美元;封闭前沿模型贡献了至少75%的收入,尽管其token生成量仅占约一半。
在定制芯片方面,陈福阳表示,博通的定制AI加速器(XPU)与开发前沿模型的客户紧密协作设计。客户团队定义算法和工作负载,博通则负责芯片架构、微架构和物理设计。他提到与OpenAI的合作,双方在约一年内生产了名为Jalapeño的XPU,其性能与领先的通用加速器相当或更优。博通目前正与OpenAI合作开发Jalapeño之后的两代产品。
陈福阳强调,基础设施可用性是AI扩张的关键限制因素。尽管博通可以规划先进晶圆、内存和基板的供应,但更难预测的是电力就绪的数据中心场地。建设AI数据中心需要土地、电力、建筑、设备和施工能力,以及许可审批。他警告,计划在2028年投入使用的场地现在就必须开始建设。长周期为博通提供了需求可见性,但也带来时间上的不确定性。
谈及与谷歌的合作,陈福阳表示双方关系已超过十年,涵盖谷歌每一代张量处理单元(TPU)。双方关于TPU和网络产品的长期协议已延长至2031年,这扩大并加强了技术与战略关系。随着传统制程节点带来的性能提升有限,博通及其客户正寻求其他方法提升加速器性能,例如将多个裸片组合成单个芯片。