端侧AI芯片的叙事长期被NPU主导,但诚恒微在首款旗舰SoC上给出了不同答案。近期在无锡举行的CH37系列边端侧AI SoC发布会上,诚恒微正式推出CH3715,在集成六核NPU(48 TOPS INT8)的同时,还加入了四核GPGPU(1 TFLOPS FP32,兼容CUDA生态)、10核CPU、自研渲染GPU、双核DSP及FFT硬件加速器。这一“NPU+GPGPU”的组合,在强调把晶体管留给NPU的主流趋势中显得颇为另类。
诚恒微CEO楚立斌对雷峰网表示,CH3715的产品定义始于2022年,彼时ChatGPT尚未发布,具身智能也未成为热点。团队当时看到的是机器视觉、雷达、工业设备中长期未被单颗芯片满足的需求——既需要AI算力,也需要高精度计算、图像处理和低时延,客户往往只能通过多颗芯片组成系统。因此,第一代旗舰SoC的目标就是把分散的计算能力集成到一颗芯片里。
NPU擅长神经网络推理,但真实设备还需处理大量传统计算。例如复杂视觉环境中的算法需要更高精度的浮点计算,雷达需要FFT和信号处理,机器人则涉及几何计算与实时控制。这正是CH3715同时加入NPU和GPGPU的直接原因——在部分场景中,仅靠INT8精度无法覆盖全部算法,GPGPU提供了更高精度的浮点计算能力,且更具灵活性和较低的迁移成本。诚恒微将这套思路概括为“异构计算,一体架构”,即NPU负责AI推理,GPGPU负责高精度可编程并行计算,DSP处理信号,ISP负责图像输入,CPU承担调度与控制。
高集成度是CH3715的显著特点。除NPU和GPGPU外,它还集成了CPU、DSP、FFT、VPU、双ISP等单元,并提供PCIe 4.0、万兆以太网等高速接口。楚立斌解释,第一代产品并非瞄准普通SoC已能很好解决的需求,而是优先寻找原本需要多芯片组合的场景,希望用一颗芯片替掉过去两三颗芯片的工作。在部分机器视觉场景中,单颗SoC无法同时满足AI算力和图像处理需求,客户需额外增加AI芯片;而实时信号处理行业则长期采用DSP与FPGA组合。芯片数量增加会推高供电、存储、外围电路的复杂度,导致PCB面积和功耗上升,跨芯片数据传输也影响时延。
诚恒微副总经理、CTO林苍松在发布会上分享,通过多个视觉处理模块单芯片集成,系统数据吞吐效率可提升50%以上,功耗降低30%,整机体积缩减40%。这些数据尚需在更多真实应用中验证,但至少解释了高集成度的目标——用一颗芯片简化原有系统。
诚恒微成立于2023年,核心研发团队拥有多款芯片设计和量产经验。楚立斌透露,CH3715真正用于设计的时间约一年半,通过这颗复杂SoC,团队完成了从产品定义到软件的全流程磨合。第一代产品做加法,下一代则开始做减法并做专项增强。楚立斌表示,下一代产品会做减法,同时重点改善内存带宽,但AI算力不会下降,仍计划推向更高水平,同时明显缩小芯片面积,目标成本约为第一代的一半。
在楚立斌看来,10—20 TOPS左右的端侧芯片市场已相当拥挤,随着端侧模型复杂化及工艺升级改善能效,未来更多端侧和边缘设备将需要更大算力的芯片。另一个变化来自AI需求:定义CH3715时具身智能尚未成为显著需求,几年后机器人对LLM、VLM、VLA等大模型的需求迅速增加,为下一代产品提供了清晰方向。诚恒微下一代产品将更关注具身智能,但仍以机器视觉为主线,视觉处理将从传统小模型向VLM、VLA、LLM演进,并延伸到机器人感知、决策和执行。
面对“一家刚推出第一代芯片的公司如何让客户愿意迁移”的现实问题,诚恒微的策略是降低切换门槛。楚立斌表示,设计SDK时会在API层尽可能兼容客户已熟悉的主流端侧SoC平台,降低既有代码和算法的迁移成本。市场策略上,诚恒微优先进入电力巡检、轨交、工业质检等垂直行业,用贴近客户的工程服务换取早期客户,并将项目能力固化进软件平台。现阶段,诚恒微主动做模组和盒子,如工控主板、行业边缘计算盒子,让客户更快看到完整方案跑起来,以建立市场信任。楚立斌说,随着解决方案商、渠道和合作伙伴成熟,公司计划逐渐把这些市场交还下游,长期大部分收入仍来自芯片。
从产品定义到2026年正式发布,CH3715回答的是“端侧AI芯片究竟需要什么”的问题。如果只看AI模型,答案可能是一颗越来越大的NPU;但走进真实场景,NPU之外仍有大量高精度计算、信号处理、图像处理和实时控制任务。诚恒微选择NPU+GPGPU并集成多种计算单元,正是对这一复杂需求的回应。而CH3715之后更值得观察的问题是:经过市场验证,诚恒微最终会留下什么、砍掉什么。对端侧AI芯片而言,做出更多功能并非最难,如何在真实场景中找到最值得留下的计算能力,才是产品定义成熟的标志。