Khosla Ventures投資的初創公司PrismML宣佈了一項可能改變移動端AI格局的技術突破:成功將阿里巴巴開發的開源大語言模型Qwen 3.6壓縮至可在iPhone 17 Pro上本地運行,該模型參數量高達270億,且在運行時保持全部參數同時激活,創下移動端AI模型規模的新紀錄。

PrismML稱,其核心技術源自加州理工學院的數學研究成果,通過一種數學壓縮方法,將原本約54GB的模型體積縮減至不足4GB,壓縮比超過90%,並聲稱在此過程中未造成性能損失。該公司CEO Babak Hassibi是加州理工學院電氣工程學教授,與聯合創始人在校期間完成了相關研究,校方持有專利並獨家授權給PrismML。

這一進展之所以引發關注,在於其與當前主流移動端AI方案的顯著差異。蘋果在今年6月全球開發者大會上發佈的新款設備端模型雖擁有200億參數,但採用稀疏架構,每次僅有10億至40億參數處於激活狀態。而PrismML的模型在運行時保持全部270億參數全量激活,該公司將此視為核心競爭優勢,並稱該模型能夠勝任複雜對話、推理、全自主智能體及軟件編程等任務。

據知情人士透露,蘋果已與PrismML就如何使用其技術舉行了會談。此前據The Information報道,蘋果正積極尋求收購能夠幫助其在設備端運行更多AI功能的公司。消息人士稱,蘋果去年在嘗試將內部AI模型壓縮至適配iPhone時,曾遭遇性能大幅下滑的困境。這一背景使PrismML的技術對蘋果具有潛在的戰略價值。

蘋果長期以來將設備端AI作為其隱私與安全承諾的核心支柱,並在很大程度上回避了微軟、亞馬遜、Meta等科技巨頭耗資數千億美元的數據中心軍備競賽。然而,蘋果今年6月宣佈的Siri重大升級仍依賴谷歌Gemini模型,其最先進功能需調用運行在谷歌雲上的英偉達芯片。這一現狀與蘋果的設備端AI願景存在明顯落差,若PrismML的壓縮技術能夠落地,可能為蘋果提供一條擺脫雲端依賴的路徑。

PrismML今年早些時候完成了1625萬美元的種子輪融資,Khosla Ventures參與其中。該機構創始人Vinod Khosla表示,他對PrismML感興趣是因為該公司提供了一種“根本性的突破”,並提到其團隊始終在尋找構建AI的新路徑。

不過,並非所有業內人士都認同純設備端AI路線。以初創公司Argmax等為代表的混合架構支持者指出,雲端大模型目前仍在快速迭代,完全運行在設備端的AI模型將難以享受到最新雲端模型帶來的性能紅利。這一挑戰也是PrismML在商業化路徑上需要持續應對的核心問題。

PrismML的願景更為激進。Hassibi預測,未來三年內用戶所需的絕大多數AI計算將在本地完成,只有約5% 的高端需求仍需雲端支持。該公司還計劃繼續將更大規模的模型——包括萬億參數級別的模型——壓縮至設備端運行,屆時將進入與OpenAI GPTAnthropic Claude同臺競技的領域。相關開源模型將於下週二正式發佈,市場將得以首次檢驗其壓縮技術的實際效果。