博通(Broadcom)CEO陳福陽(Hock Tan)週一在高盛Communacopia + Technology會議上表示,企業採用生成式人工智慧仍處於早期階段,各公司仍在尋找能帶來可觀投資回報的用例。他預計,AI領域最大的經濟價值將歸於最強大的前沿模型開發者及其相關應用,而博通正通過定製XPU支援這些客戶,並已擴大與OpenAI和谷歌的合作。
陳福陽透露,博通約3萬名工程師中,已有約1.5萬人參與評估AI工具在硬體和軟體開發中的應用。他認為,AI近期最明確的價值在於提升工程質量和加速新技術開發,而非廣泛替代人力或帶來直接的生產力提升。他以半導體開發為例,指出避免一次晶片重新流片(respin)可節省約3000萬美元成本,並避免專案延期六個月。他形容AI“幫助聰明人變得更聰明”,最有效的使用者是那些瞭解自身環境並能有效提示AI模型的批判性思考者和資深架構師。博通還在網路安全領域使用AI,並已開始探索智慧體(agent)的應用。
關於AI價值分配,陳福陽認為,最強大的前沿模型開發者及其應用將佔據行業經濟價值的大部分。他用一個示例說明:一個由1吉瓦計算能力支援的前沿模型,每年可產生300億美元的經常性收入,而運營成本約為100億美元。在此情景下,模型開發者及其應用將保留較大份額,雲服務商、電力供應商、晶片製造商和記憶體供應商則競爭剩餘支出。他明確表示偏好封閉前沿模型而非開放權重模型,儘管承認兩者可共存。他援引推理經濟學資料稱,全球token生成基礎設施成本每年約2000億美元,而模型相關收入約1500億美元;封閉前沿模型貢獻了至少75%的收入,儘管其token生成量僅佔約一半。
在定製晶片方面,陳福陽表示,博通的定製AI加速器(XPU)與開發前沿模型的客戶緊密協作設計。客戶團隊定義演算法和工作負載,博通則負責晶片架構、微架構和物理設計。他提到與OpenAI的合作,雙方在約一年內生產了名為Jalapeño的XPU,其效能與領先的通用加速器相當或更優。博通目前正與OpenAI合作開發Jalapeño之後的兩代產品。
陳福陽強調,基礎設施可用性是AI擴張的關鍵限制因素。儘管博通可以規劃先進晶圓、記憶體和基板的供應,但更難預測的是電力就緒的資料中心場地。建設AI資料中心需要土地、電力、建築、裝置和施工能力,以及許可審批。他警告,計劃在2028年投入使用的場地現在就必須開始建設。長週期為博通提供了需求可見性,但也帶來時間上的不確定性。
談及與谷歌的合作,陳福陽表示雙方關係已超過十年,涵蓋谷歌每一代張量處理單元(TPU)。雙方關於TPU和網路產品的長期協議已延長至2031年,這擴大並加強了技術與戰略關係。隨著傳統制程節點帶來的效能提升有限,博通及其客戶正尋求其他方法提升加速器效能,例如將多個裸片組合成單個晶片。