晶片行業研究機構SemiAnalysis近日釋出報告,詳細披露了Meta在AI基礎設施領域的一系列決策失誤,其中最新案例是Meta要求AMD為其定製一款大幅削減規格的MI450X晶片。據SemiAnalysis,Meta定製的版本將計算矽面積減半,HBM記憶體堆疊數從12層降至8層,記憶體容量縮水近三分之二。SemiAnalysis直接將該決定定性為“災難性”,並公開呼籲AMD繞開Meta基礎設施團隊,直接與Meta旗下超級智慧實驗室TBD Lab對接,推動採購標準版MI450X。
MI450X是AMD目前矽工程規格最為激進的GPU之一,採用2納米制程、混合鍵合封裝技術、12層HBM4記憶體堆疊,以及市場上最大的CoWoS光罩尺寸。Meta基礎設施團隊給出的定製理由是:該配置面向推薦系統(RecSys)工作負載設計,旨在提升CPU與GPU的計算比例。然而,SemiAnalysis指出,這一決定是在TBD Lab成立之前作出的,後者作為Meta核心大模型研究團隊,對這款晶片毫無興趣。SemiAnalysis明確表示,相較於輝達的Vera Rubin,被削減規格的MI450對TBD Lab毫無吸引力,“TBD將大幅傾向於Rubin”。這意味著AMD在Meta的出貨量將因這一決策受到嚴重衝擊。
SemiAnalysis在報告中罕見地直接向AMD喊話:“AMD需要站出來,直接與TBD團隊合作,確保他們拿到正常版MI450,而不是這個對GenAI毫無價值的閹割版。”
這一事件並非孤立。SemiAnalysis指出,Meta基礎設施團隊的決策模式呈現出一貫的過度工程化、缺乏軟硬體協同設計、以及短期政治導向壓倒長期技術合理性的特徵。該機構列舉了多個典型案例:
2024年,Meta以逾25億美元完成對晶片設計公司Rivos的收購。據SemiAnalysis,Meta內部晶片部門鮮有人真正理解這筆收購的戰略邏輯,當初推動該交易的人士此後已趨於沉默。收購後,Meta大幅裁撤其不需要的部門,原有團隊架構迅速瓦解。從技術層面看,收購的核心價值——Rivos的SIMT架構GPU IP——已隨著原計劃搭載該技術的“Olympus”晶片專案被取消而煙消雲散。接替方案“Phoebe”專案預計最早2028年流片,但SemiAnalysis指出,內部對其能否落地並不樂觀。人員流失同樣觸目驚心,約30%的Rivos員工在近期裁員中離職,聯合創始人Mark Hayter已經離開,另有多名前Rivos人員在首批RSU於今年5月歸屬後轉投晶片初創公司Nuvacore。
在伺服器定製方面,Meta的H100定製伺服器Grand Teton,在標準HGX伺服器基礎上額外增加了一個交換機托盤,搭載四顆博通PCIe交換機、16塊SSD和八塊網絡卡,目的是為每台伺服器提供更多直連儲存,用於訓練檢查點儲存。然而實際投入生產後,模型團隊對這些儲存的使用遠低於預期,該設計最終被放棄。SemiAnalysis指出,這是Meta硬體與軟體團隊缺乏協同設計的典型體現。
進入Blackwell時代,Meta的定製方案Ariel延續了類似邏輯。標準GB200規格為每顆Grace CPU搭配兩顆B200 GPU,而Ariel將其改為一對一配置,GPU數量減半。理由同樣是為RecSys工作負載提升CPU比例。據SemiAnalysis測算,Ariel NVL36x2方案的總擁有成本(TCO)比標準GB200 NVL72高出14%,而額外支出換來的更多CPU與DRAM資源,恰恰是大模型團隊不需要的。由於採用跨機架連線方案以彌補GPU數量減少導致的組網缺口,網路延遲與可靠性問題隨之而來。SemiAnalysis表示,Meta的GB300伺服器已迴歸標準配置——這本身即是對Ariel方案的否定。
SemiAnalysis將上述問題歸因於Meta基礎設施團隊的組織文化。該機構指出,Meta的六個月績效考核週期每輪淘汰最末10%至15%的員工,導致團隊傾向於追求短期可見成果而非長期技術佈局。部分管理者熱衷於推動高曝光度但快速可交付的專案,交付後迅速轉向,這一做法被內部稱為“粉刷門面”(window washing)。與此同時,鮮少有人公開挑戰上級決策,導致錯誤難以被及時糾正。供應鏈團隊在工程決策中話語權有限,進一步放大了上述問題。SemiAnalysis指出,部分供應商已因Meta頻繁的方向變動而降低對其新專案的優先順序,轉而優先保障亞馬遜或谷歌的需求。
SemiAnalysis將這一現象類比於Meta旗下Reality Labs的擴張歷程——在大規模裁員到來之前,數十億美元被投入龐大的工程團隊與研發專案之中。如今,隨著Meta著手向外部客戶出售算力,這種內部文化的代價將更加直接地暴露在市場面前。