10月14日,在后摩智能首届生态合作伙伴大会上,这家端边AI芯片公司正式宣布以SRAM存算一体(SRAM-CIM)为根技术,同时布局2D CIM与3D CIM两条技术路径,分别对应更大存储容量与更大访存带宽的需求。后摩智能联合创始人、产品副总裁信晓旭公布了最新芯片路线图:基于2D CIM已量产M30、M50,首款3D CIM芯片A20现已投产,M50迭代款M6X系列也在持续研发中。

后摩智能将这一布局放在端边AI商业化的关键节点上。随着大模型能力跃迁与AI Agent加速普及,个人Agent正迎来爆发期——海外Meta、OpenAI、谷歌已推出个人AI助手,国内腾讯、蚂蚁、字节等大厂也相继传出个人Agent产品内测消息。这类Agent需要长期记忆与自主执行任务,天然契合端边AI本地化、个性化、实时与安全的优势。但端边算力博弈同时加剧,算力、访存带宽、功耗成本与场景适配等瓶颈无法仅靠算法优化抹平,倒逼行业寻找新的芯片架构。

从技术逻辑看,大模型推理属于算力与访存双密集场景。算力决定计算理论效率,内存容量限定可运行模型规模与上下文长度,访存带宽则制约权重与KV数据的吞吐速度及token生成速率,功耗与成本决定能否大规模商业化。后摩智能选择的SRAM存内计算,把乘累加运算直接放在SRAM存储阵列内部完成,模型权重驻留片上,减少数据反复搬运。据其M50架构对比数据,在AI Core层面采用SRAM-CIM后,核心面积较传统实现下降约3/5,功耗降至原来的约1/5。

后摩智能将端边AI负载分为两类:算力驱动型场景追求超高算力密度与大容量存储,对极致带宽无刚需;带宽驱动型场景则需要极致访存带宽与低延迟吞吐。单一架构很难兼顾两边——模型参数规模提升后,2D CIM的访存瓶颈会凸显;业界尝试的3D堆叠方案又面临算力面积受限、散热困难等问题。这正是双路线互补的出发点:2D CIM路线基于SRAM-CIM与2D封装技术,解决算力和存储容量要求高的场景,适配图像、视频生成、MoE等计算需求高、显存权重容量波动大的负载;3D CIM路线则将SRAM-CIM与先进封装结合,通过堆叠融合把更多权重放在片上,减少片外数据交换,面向稠密模型推理对持续高吞吐带宽的需求。信晓旭称,与主流3D堆叠不同,后摩智能在先进封装基础上引入计算架构创新,将底下Logic die升级为SRAM-Based CIM,以解决计算效率低的问题。

已量产产品为2D CIM路线提供了工程化与商业化验证。M50量产不到一年,获得150余个产品定点,服务客户超百家,案例涵盖基础本地大模型推理,以及具备交互能力、可长期自主执行任务的本地AI智能体。基于M50打造的联想AI主机P7,是专为智能体设计的边缘算力设备:重量仅300克,最高支持运行1220亿参数本地大模型,整机算力达190 TOPS,最大支持128K长上下文,无网环境下可以50 Token每秒的速度完成本地自主推理,更多细节将于10月24日新品发布会公布。此外,后摩智能与聊趣智能联手推出支持全息交互的个人智算中心ClawHouse X1,海外初创公司Deepshard则推出全本地运行的智能体工作站Truffle 1。

新路线图上的A20与M6X进一步指向性能跃升。A20主打高带宽、低时延,最多支持16芯全互联,算力利用率比上一代提升50%;M6X的综合能力可达当下M50的3至6倍。

软件层面,后摩智能自研的基础软件栈与生态软件栈覆盖芯片到上层应用,可兼容多代异构硬件,适配主流深度学习框架与大模型推理生态,提供全套C++、Python API。其AI生态软件包含底层推理框架、领域开发套件、ModelZoo、中间件工具与应用样例五部分,其中推理框架已完成与所有主流推理框架的适配优化,该生态软件已正式开源。统一软件平台有助于客户复用模型适配、编译优化与部署经验,降低不同芯片及终端产品之间的重复开发成本。

后摩智能创始人、CEO吴强将公司定位概括为“端侧免费Token工厂的算力底座”,希望以最低能耗产生最强智能,把端侧Token的边际成本无限趋近于零。从产业视角看,端边AI并非替代云端,而是承接大量本地化高频任务,让AI从联网调用的服务变成常驻设备的原生智能;云端则继续负责长周期规划、复杂推理、知识库检索、模型更新与跨设备协同。两条技术路线的边界未来也可能逐步消融,催生一体化融合的定制化算力产品。对关注端边AI的投资者而言,后摩智能的量产定点数据、客户覆盖与开源软件策略,是观察存算一体芯片能否在Agent时代形成规模化商业闭环的重要线索。