端側AI晶片的敘事長期被NPU主導,但誠恆微在首款旗艦SoC上給出了不同答案。近期在無錫舉行的CH37系列邊端側AI SoC釋出會上,誠恆微正式推出CH3715,在整合六核NPU(48 TOPS INT8)的同時,還加入了四核GPGPU(1 TFLOPS FP32,相容CUDA生態)、10核CPU、自研渲染GPU、雙核DSP及FFT硬體加速器。這一“NPU+GPGPU”的組合,在強調把電晶體留給NPU的主流趨勢中顯得頗為另類。
誠恆微CEO楚立斌對雷峰網表示,CH3715的產品定義始於2022年,彼時ChatGPT尚未釋出,具身智慧也未成為熱點。團隊當時看到的是機器視覺、雷達、工業裝置中長期未被單顆晶片滿足的需求——既需要AI算力,也需要高精度計算、影像處理和低時延,客戶往往只能通過多顆晶片組成系統。因此,第一代旗艦SoC的目標就是把分散的計算能力整合到一顆晶片裡。
NPU擅長神經網路推理,但真實裝置還需處理大量傳統計算。例如複雜視覺環境中的演算法需要更高精度的浮點計算,雷達需要FFT和訊號處理,機器人則涉及幾何計算與即時控制。這正是CH3715同時加入NPU和GPGPU的直接原因——在部分場景中,僅靠INT8精度無法覆蓋全部演算法,GPGPU提供了更高精度的浮點計算能力,且更具靈活性和較低的遷移成本。誠恆微將這套思路概括為“異構計算,一體架構”,即NPU負責AI推理,GPGPU負責高精度可程式設計平行計算,DSP處理訊號,ISP負責影像輸入,CPU承擔排程與控制。
高整合度是CH3715的顯著特點。除NPU和GPGPU外,它還集成了CPU、DSP、FFT、VPU、雙ISP等單元,並提供PCIe 4.0、萬兆乙太網路等高速介面。楚立斌解釋,第一代產品並非瞄準普通SoC已能很好解決的需求,而是優先尋找原本需要多晶片組合的場景,希望用一顆晶片替掉過去兩三顆晶片的工作。在部分機器視覺場景中,單顆SoC無法同時滿足AI算力和影像處理需求,客戶需額外增加AI晶片;而即時訊號處理行業則長期採用DSP與FPGA組合。晶片數量增加會推高供電、儲存、外圍電路的複雜度,導致PCB面積和功耗上升,跨晶片資料傳輸也影響時延。
誠恆微副總經理、CTO林蒼松在釋出會上分享,通過多個視覺處理模組單晶片整合,系統資料吞吐效率可提升50%以上,功耗降低30%,整機體積縮減40%。這些資料尚需在更多真實應用中驗證,但至少解釋了高整合度的目標——用一顆晶片簡化原有系統。
誠恆微成立於2023年,核心研發團隊擁有多款晶片設計和量產經驗。楚立斌透露,CH3715真正用於設計的時間約一年半,通過這顆複雜SoC,團隊完成了從產品定義到軟體的全流程磨合。第一代產品做加法,下一代則開始做減法並做專項增強。楚立斌表示,下一代產品會做減法,同時重點改善記憶體頻寬,但AI算力不會下降,仍計劃推向更高水平,同時明顯縮小芯片面積,目標成本約為第一代的一半。
在楚立斌看來,10—20 TOPS左右的端側晶片市場已相當擁擠,隨著端側模型複雜化及工藝升級改善能效,未來更多端側和邊緣裝置將需要更大算力的晶片。另一個變化來自AI需求:定義CH3715時具身智慧尚未成為顯著需求,幾年後機器人對LLM、VLM、VLA等大模型的需求迅速增加,為下一代產品提供了清晰方向。誠恆微下一代產品將更關注具身智慧,但仍以機器視覺為主線,視覺處理將從傳統小模型向VLM、VLA、LLM演進,並延伸到機器人感知、決策和執行。
面對“一家剛推出第一代晶片的公司如何讓客戶願意遷移”的現實問題,誠恆微的策略是降低切換門檻。楚立斌表示,設計SDK時會在API層儘可能相容客戶已熟悉的主流端側SoC平台,降低既有程式碼和演算法的遷移成本。市場策略上,誠恆微優先進入電力巡檢、軌交、工業質檢等垂直行業,用貼近客戶的工程服務換取早期客戶,並將專案能力固化進軟體平台。現階段,誠恆微主動做模組和盒子,如工控主機板、行業邊緣計算盒子,讓客戶更快看到完整方案跑起來,以建立市場信任。楚立斌說,隨著解決方案商、渠道和合作夥伴成熟,公司計劃逐漸把這些市場交還下游,長期大部分收入仍來自晶片。
從產品定義到2026年正式釋出,CH3715回答的是“端側AI晶片究竟需要什麼”的問題。如果只看AI模型,答案可能是一顆越來越大的NPU;但走進真實場景,NPU之外仍有大量高精度計算、訊號處理、影像處理和即時控制任務。誠恆微選擇NPU+GPGPU並整合多種計算單元,正是對這一複雜需求的回應。而CH3715之後更值得觀察的問題是:經過市場驗證,誠恆微最終會留下什麼、砍掉什麼。對端側AI晶片而言,做出更多功能並非最難,如何在真實場景中找到最值得留下的計算能力,才是產品定義成熟的標誌。