在WAIC 2026上,超節點、萬卡叢集成為算力領域最吸睛的焦點,但安謀科技在同期舉辦的AI前瞻會上將討論引向另一端:當AI從雲端進入手機、AI PC、智慧家居、汽車、機器人、工業裝置和邊緣節點,算力問題不再只是“夠不夠大”,而是“合不合適”。
安謀科技Arm China NPU產品線負責人、首席架構師舒浩博士在會上表示:“我們認為,邊端側AI不是雲端AI的縮小版,而是由功耗、即時性、軟體、資料、可靠性共同定義的新計算市場。”這一觀點比具體產品引數更值得關注。安謀科技在AI前瞻會上並未將CPU、NPU、VPU和AIOS作為孤立產品介紹,而是給出了一套端側AI的系統答案:硬體層面做異構,軟體層面建生態,最終將自己從晶片IP供應商推向邊端側AI基礎設施的組織者。
端側AI的機會首先來自模型能力的下沉。安謀科技CPU產品總監朱曉鳴在演講中提到,2022年、2023年達到商用門檻的模型規模往往需要數百B引數,但隨著演算法演進,到2025年、2026年,接近1B體量的模型也有機會達到商用最低標準線。這意味著過去只能執行在雲端伺服器上的AI能力開始有機會進入端側晶片。但端側AI真正的難點並非模型能否變小,而是變小後能否在真實裝置中穩定執行。手機要考慮續航,機器人要考慮低延遲,工業裝置要考慮穩定性和生命週期,智慧家居裝置還要考慮成本和常開功耗。朱曉鳴指出:“端側AI並不是資源無限、無限子彈的AI,它是一個資源受限的AI。”
為此,安謀科技推出了“星辰300”AIoT原型平台,由STAR CPU、Arm Helium向量擴充套件和Arm Ethos NPU組成,首代平台選擇STAR-MC2和Ethos-U55,目標是支援主流小模型,讓傳統MCU拓展出AI算力。過去IoT強調連線萬物,裝置主要承擔採集、連線和被動響應;AIoT則強調認知萬物,端側裝置需要具備感知、判斷和決策能力。安謀科技的做法是將CPU的通用控制能力、Helium的向量擴充套件能力和Ethos NPU的矩陣加速能力組合起來,在功耗、面積都受限的嵌入式裝置中跑出可用的AI能力。
針對更復雜的邊端側推理問題,安謀科技推出了周易X3-Pro NPU。舒浩在演講中提到,過去一年AI行業的變化集中在四個方面:模型能力提升,推理需求從雲端向邊端側擴充套件;推理範式從單輪對話走向Agent多輪協作;工作負載高度分化;邊端側場景不斷擴充套件。這些變化指向同一結論:“AI算力底座的關注焦點,已經從峰值算力轉向系統效率、場景適配性以及整體可部署能力。”Agentic AI帶來的推理變化使NPU不能只被定義為推理加速器,而要變成AI智慧體的計算底座。邊端側場景依然面臨碎片化問題——手機、PC、可穿戴裝置關心電池續航和本地響應;攝像頭、門鎖、機器人、自動駕駛關心多模態感測和低延遲;工業閘道器、工控機關心任務確定性和長生命週期;邊緣節點、AI本地盒子關心多路併發和雲邊協同。這些裝置都需要AI,但不會需要同一顆AI晶片。周易X3-Pro的設計哲學是“一次適配,多芯複用;面向場景,靈活配置”,通過統一架構複用模型適配經驗,硬體層面則通過不同配置適配差異化要求。
AI進入真實世界後,影片的角色也在變化。安謀科技VPU研發總監黃鑫博士在演講中指出,過去影片主要服務人眼,但在機器人、自動駕駛、工業視覺等場景中,影片成為AI理解物理世界的資料入口。AI時代,VPU還要考慮壓縮後的影片能否保留對AI推理有效的資訊。安謀科技此次首次揭秘新一代“玲瓏”VPU“武當”,繼承上一代CAE技術,在保持編碼質量的同時,PPA較上一代提升超過40%,並支援更完整的編碼規格。黃鑫表示,下一階段AI VPU會從智慧CAE這類區域性最佳化走向面向特定AI應用的端到端影片編碼技術,在壓縮和精度之間取得更優平衡。他用一句話概括玲瓏VPU的定位:“讓人類看清世界,讓AI看懂世界。”
硬體異構只能解決端側AI的一半問題,另一半是軟體和生態。安謀科技牽頭髮起開源AIOS聯盟,旨在將硬體IP、軟體棧、模型能力、開發者工具和終端產品組織到一個更開放的體系裡。安謀科技市場及生態副總裁梁泉在演講中提到,每一代新型產品的變化不僅是計算平台變化,也包括互動範式變化——PC時代是滑鼠和鍵盤,移動時代是多點觸控,AI時代則會出現語音互動、生成式UI、具身互動和持續感知。AIOS需要處理模型引擎、模型推理、端雲協同路由、感知互動、Agent任務編排、記憶系統和資料流。梁泉對AIOS的定義裡,最關鍵的不是“OS”,而是互動——新型AIOS是“基於感知的生成式互動和具身互動系統”。
從星辰300到周易X3-Pro,從玲瓏VPU到開源AIOS聯盟,安謀科技傳遞出的核心資訊是為端側AI構建一套不同於雲端AI的基礎設施。雲端AI的競爭更像規模競賽,而端側AI的競爭則更像系統競賽——要在功耗、成本、即時性、隱私、裝置形態和生命週期之間找平衡,讓不同尺寸、不同場景、不同產品週期的裝置都能以可控成本獲得AI能力。這正是“端側AI不是雲端AI的縮小版”背後的產業含義。當AI進入真實世界,問題會變成如何讓每一台裝置都具備可用、可靠、可部署的智慧能力。安謀科技構建的正是這套邊端側算力底座。端側AI的下半場,不會只屬於單顆晶片,它屬於能把晶片、模型、OS、開發者和終端場景串起來的公司。