10月14日,在後摩智慧首屆生態合作伙伴大會上,這家端邊AI晶片公司正式宣佈以SRAM存算一體(SRAM-CIM)為根技術,同時佈局2D CIM與3D CIM兩條技術路徑,分別對應更大儲存容量與更大訪存頻寬的需求。後摩智慧聯合創始人、產品副總裁信曉旭公佈了最新晶片路線圖:基於2D CIM已量產M30、M50,首款3D CIM晶片A20現已投產,M50迭代款M6X系列也在持續研發中。
後摩智慧將這一佈局放在端邊AI商業化的關鍵節點上。隨著大模型能力躍遷與AI Agent加速普及,個人Agent正迎來爆發期——海外Meta、OpenAI、谷歌已推出個人AI助手,國內騰訊、螞蟻、位元組等大廠也相繼傳出個人Agent產品內測訊息。這類Agent需要長期記憶與自主執行任務,天然契合端邊AI本地化、個性化、即時與安全的優勢。但端邊算力博弈同時加劇,算力、訪存頻寬、功耗成本與場景適配等瓶頸無法僅靠演算法最佳化抹平,倒逼行業尋找新的晶片架構。
從技術邏輯看,大模型推理屬於算力與訪存雙密集場景。算力決定計算理論效率,記憶體容量限定可執行模型規模與上下文長度,訪存頻寬則制約權重與KV資料的吞吐速度及token生成速率,功耗與成本決定能否大規模商業化。後摩智慧選擇的SRAM存內計算,把乘累加運算直接放在SRAM儲存陣列內部完成,模型權重駐留片上,減少資料反覆搬運。據其M50架構對比資料,在AI Core層面採用SRAM-CIM後,核心面積較傳統實現下降約3/5,功耗降至原來的約1/5。
後摩智慧將端邊AI負載分為兩類:算力驅動型場景追求超高算力密度與大容量儲存,對極致頻寬無剛需;頻寬驅動型場景則需要極致訪存頻寬與低延遲吞吐。單一架構很難兼顧兩邊——模型引數規模提升後,2D CIM的訪存瓶頸會凸顯;業界嘗試的3D堆疊方案又面臨算力面積受限、散熱困難等問題。這正是雙路線互補的出發點:2D CIM路線基於SRAM-CIM與2D封裝技術,解決算力和儲存容量要求高的場景,適配影像、影片生成、MoE等計算需求高、視訊記憶體權重容量波動大的負載;3D CIM路線則將SRAM-CIM與先進封裝結合,通過堆疊融合把更多權重放在片上,減少片外資料交換,面向稠密模型推理對持續高吞吐頻寬的需求。信曉旭稱,與主流3D堆疊不同,後摩智慧在先進封裝基礎上引入計算架構創新,將底下Logic die升級為SRAM-Based CIM,以解決計算效率低的問題。
已量產產品為2D CIM路線提供了工程化與商業化驗證。M50量產不到一年,獲得150餘個產品定點,服務客戶超百家,案例涵蓋基礎本地大模型推理,以及具備互動能力、可長期自主執行任務的本地AI智慧體。基於M50打造的聯想AI主機P7,是專為智慧體設計的邊緣算力裝置:重量僅300克,最高支援執行1220億引數本地大模型,整機算力達190 TOPS,最大支援128K長上下文,無網環境下可以50 Token每秒的速度完成本地自主推理,更多細節將於10月24日新品釋出會公佈。此外,後摩智慧與聊趣智慧聯手推出支援全息互動的個人智算中心ClawHouse X1,海外初創公司Deepshard則推出全本地執行的智慧體工作站Truffle 1。
新路線圖上的A20與M6X進一步指向效能躍升。A20主打高頻寬、低時延,最多支援16芯全互聯,算力利用率比上一代提升50%;M6X的綜合能力可達當下M50的3至6倍。
軟體層面,後摩智慧自研的基礎軟體棧與生態軟體棧覆蓋晶片到上層應用,可相容多代異構硬體,適配主流深度學習框架與大模型推理生態,提供全套C++、Python API。其AI生態軟體包含底層推理框架、領域開發套件、ModelZoo、中介軟體工具與應用樣例五部分,其中推理框架已完成與所有主流推理框架的適配最佳化,該生態軟體已正式開源。統一軟體平台有助於客戶複用模型適配、編譯最佳化與部署經驗,降低不同晶片及終端產品之間的重複開發成本。
後摩智慧創始人、CEO吳強將公司定位概括為“端側免費Token工廠的算力底座”,希望以最低能耗產生最強智慧,把端側Token的邊際成本無限趨近於零。從產業視角看,端邊AI並非替代雲端,而是承接大量本地化高頻任務,讓AI從聯網呼叫的服務變成常駐裝置的原生智慧;雲端則繼續負責長週期規劃、複雜推理、知識庫檢索、模型更新與跨裝置協同。兩條技術路線的邊界未來也可能逐步消融,催生一體化融合的定製化算力產品。對關注端邊AI的投資者而言,後摩智慧的量產定點資料、客戶覆蓋與開源軟體策略,是觀察存算一體晶片能否在Agent時代形成規模化商業閉環的重要線索。