Meta在今年的Hot Chips半導體大會上詳細披露了其首款生成式AI加速器MTIA 400的架構細節。這款晶片並非單純面向大語言模型（LLM）訓練，還承擔著廣告推薦系統的推理任務，展現出“雙重性格”。MTIA 400的定位與多數自研AI晶片不同——它主要瞄準LLM訓練，而非僅做推理。Meta此前自研的AI加速器主要用於廣告推薦，而MTIA 400則首次將訓練與推理功能結合，但推理部分並非針對生成式AI，而是執行廣告推薦模型（DLRM），後者是Meta收入的主要來源。

MTIA 400採用異構多芯粒架構，包含兩個計算芯粒、兩個I/O芯粒和一個SoC芯粒，用於主機連線和工作負載編排。計算芯粒基於3nm工藝（推測來自台積電），每個芯粒擁有6x8的處理單元陣列，合計算力達12 petaFLOPS（MXFP4精度，1.7 GHz）。據Meta資料，該晶片在高精度訓練場景下比輝達頂配Blackwell加速器快約20%，功耗相近。然而，與輝達Rubin和AMD Instinct MI455X相比，MTIA 400分別慢3倍和3.3倍。

記憶體方面，MTIA 400配備8個36GB的HBM3e堆疊，總容量288GB，頻寬約9.2 TB/s，比輝達和AMD上一代產品快約15%，但不足其新一代GPU頻寬的一半。這解釋了為何Meta將其定位為訓練晶片——在LLM推理上，Meta有更優選擇。晶片還通過一對I/O芯粒提供1.2 TB/s的RDMA晶片間頻寬，推測採用乙太網路傳輸（鑑於博通的參與）。

系統層面，每個計算刀片整合4個MTIA 400，通過PCIe交換機連線x86 CPU和擴充套件NIC。單個機架配備18個計算刀片和8個交換刀片，共72個加速器組成統一域。Meta尚未透露最大叢集規模，僅稱支援“數千加速器擴充套件”，但機架級效能已可與輝達GB200和GB300系統媲美。

Meta已在開發推理最佳化版MTIA 450，計劃2027年量產，將記憶體頻寬翻倍（可能換用HBM4），適合執行基於LLM的推薦模型。此外，MTIA 500也定於2027年釋出，預計增加4個HBM4堆疊，記憶體頻寬再提升50%，並加倍計算芯粒數量。

儘管MTIA系列在Meta生成式AI工作負載中角色日益重要，但其自研晶片短期內不太可能取代AMD或輝達GPU。後者在LLM推理上更成熟，Meta Superintelligence Labs仍依賴它們訓練前沿模型（如Muse Spark）。專用硬體更適合成熟工作負載，Meta的加速器也不例外。