AI晶片一級市場再度升溫。繼上一輪國產GPU投資進入兌現期後,資本正尋找下一批可能跑出的AI晶片公司,近存計算、存算一體、3D近存、3D TokenPU等概念頻繁被歸入同一標籤——3D堆疊。有3D晶片企業半年內連續完成兩輪融資,累計規模接近10億元;還有企業晶片尚未量產,估值已攀升至百億元。但投資人開始比較這些公司時卻發現,相似的技術語言背後,是截然不同的市場、工程難題與商業驗證標準。
“技術架構看起來都差不多,誰的產品最好、誰能搞定大客戶,我們都不知道。”參投過某上市GPU企業的投資人老張告訴雷峰網。經歷過上一輪晶片投資後,他所在的機構更傾向於等企業完成流片、拿出真實訂單,再決定是否下注。這種謹慎態度折射出這輪熱潮的複雜性——標籤相同,但內裡各異。
這輪熱潮背後,晶片瓶頸正在變化。Agent將一次性的模型問答拉長為持續執行的任務,儲存容量、頻寬和資料搬運效率的重要性隨之上升。過去,AI晶片競爭主要圍繞峰值算力展開,GPU通過多級快取、HBM和先進封裝讓資料更快抵達計算單元。但在部分推理負載中,制約效能的因素已不只是“算得夠不夠快”,資料的供給效率愈發受到重視。尤其在Decode階段,計算單元頻繁讀取模型權重和KV Cache,算力與頻寬需求並不完全匹配,繼續借助通用GPU同時擴充套件計算和儲存能力,未必始終是成本最優方案。
設計更適配推理負載的新型晶片架構,因此成為資本和產業關注的方向。追蹤新晶片架構的投資人Bob判斷,推理需求的爆發速度可能超過市場預期,未來三到五年內AI算力晶片仍可能供不應求。在這一預期下,近存計算、存算一體等圍繞資料搬運展開的新架構迅速升溫,3D堆疊則成為承載這些路線的整合手段之一。
“3D堆疊本質上是一種晶片整合形式,為了節省面積、縮短傳輸距離,把不同晶片縱向疊在一起。其中既包括邏輯與儲存,也包括邏輯與邏輯、儲存與儲存。”Omdia半導體分析師總監何暉告訴雷峰網。這也意味著,同樣打著“3D堆疊”標籤的公司,堆疊物件、技術目標和最終產品可能完全不同。
梳理國內外企業公開表述後,三類方案背後的產業邏輯逐漸清晰。台積電SoIC、英特爾Foveros和AMD MI300等方案,主要通過拆分和重新組合邏輯(包括計算、I/O等)芯粒,延續晶片效能擴充套件。這類路線並非重新定義計算方式,而是在先進製程微縮日益昂貴的情況下,讓不同功能和製程的芯粒繼續協同擴充套件。
第二類方案解決的是儲存問題。HBM、HBF和3D V-Cache在有限的封裝面積內裝入更多資料,並提高資料抵達計算單元的速度,分別瞄準頻寬、容量和快取層級,核心仍是強化計算晶片周圍的儲存供給能力。
第三類方案進一步改變計算與儲存的位置關係。紫光國芯、瑞芯微及多家國內3D近存晶片創業公司,嘗試將邏輯(計算)與DRAM等儲存單元垂直整合;三星HBM-PIM、思敏威和微納核芯等方案則進一步把部分計算移動到儲存側。與海外頭部企業利用Chiplet、HBM和先進封裝擴大系統規模不同,國內新專案更集中於邏輯與儲存的垂直整合。
這並非偶然。“真正能參與3D儲存競爭的只有三星、SK海力士、美光、長鑫儲存和長江儲存。”AI晶片專家秦毅指出,這類技術通常掌握在少數具備儲存晶圓製造能力的企業手中。此外,Chiplet路線依賴成熟的Die-to-Die互連、軟體和產業生態。對多數國內創業公司而言,與其正面進入由IDM、Foundry主導的競爭,不如在晶片架構和封裝層面重新組織現有計算與儲存資源。在先進製程、HBM和高階封裝能力受限的背景下,3D堆疊因此承載了一層特殊期待:用架構和整合創新彌補製造工藝差距。
據何暉觀察,受制程條件限制,相較於海外企業在3nm、2nm等先進邏輯製程上疊加先進封裝,國內企業更多從7nm等相對成熟節點實行3D堆疊。但她同時表示,當前先進封裝尚無統一技術標準,只要有能力把儲存和邏輯整合起來,採用何種互連方案並非重點。
然而,3D堆疊本身不會自動帶來更強的晶片。在不少3D晶片企業的敘事中,提高頻寬是核心賣點。據程伊觀察,部分國產3D晶片受成熟製程限制,呈現“算力相對有限、頻寬較高”的特徵,恰好對應了對記憶體頻寬更敏感的Decode階段。基於此,他認為企業要關注的是能否在真晶片上跑通Decode,最好還能完成Decode中Attention運算元的驗證,最終展示足夠高的TPS(每秒Token吞吐量)。“高頻寬最終必須兌現為Token吞吐。”程伊強調。
不過,這也意味著3D晶片只是打通推理鏈條的其中一環。“3D晶片真正的價值在於和GPU分工協作,並且降低Decode階段的成本。”程伊並不看好那些將單點效能指標最佳化包裝成通用算力替代的企業。
如果說高頻寬解釋了為什麼需要3D晶片,那麼如何把內部不同單元真正堆疊在一起,則決定了這條路線能否落地。秦毅分析,相比HBM內部各層儲存Die,計算Die與儲存Die的尺寸、功耗和溫度分佈差異較大,可能在熱迴圈過程中產生不均勻應力、翹曲和散熱問題。程伊也注意到散熱和良率的約束,認為目前減少堆疊層數可能是更現實的工程選擇。某家3D晶片企業的技術高管也告訴雷峰網,對於計算邏輯與儲存晶圓構成的異質堆疊,4至6層是現階段更現實的工程範圍。
此外,晶片能堆疊多少層,還需結合整個封裝系統綜合判斷。秦毅以台積電CoWoS先進封裝為例,指出一顆計算Die搭配多少組HBM,需綜合考慮Die尺寸、中介層面積、佈線、供電和整體封裝輪廓等因素,並非單純取決於希望獲得多少容量。
即便硬體完成堆疊和封裝,也不意味著3D晶片已具備商業價值。3D整合改變了計算與儲存之間的資料組織方式,軟體棧也需要重新理解新的儲存層級和資料流動方式。程伊認為,判斷一家創企的軟體能力,需考察其ISA(指令集架構)、程式設計模型、編譯器、執行時、運算元庫和框架適配。即使硬體提供更高頻寬,如果軟體無法有效排程新的晶片結構,理論優勢仍可能停留在架構圖上。
對當前仍處於探索階段的3D晶片公司而言,從技術路線走向真正產品,至少要跨過三道門檻:在真晶片上證明目標負載的效能和成本優勢,在封裝製造中解決散熱、翹曲和良率問題,再通過軟體適配和客戶驗證實現規模交付。這也意味著,資本不能只用“3D堆疊”這個標籤判斷專案。重組邏輯芯粒、擴充套件儲存能力與重構存算關係,面對的是不同市場,也需要不同的驗證標準。但最終,所有路線仍要回答同一個問題:更高的頻寬、更短的資料距離和更激進的堆疊結構,能否真正轉化為Token吞吐、單位成本和客戶訂單?
3D晶片疊幾層、怎麼疊沒有標準答案,但如何從架構走向產品,卻有一套相同的檢驗標準。投資人的追問還在繼續。