苹果正在探索一条让强大AI模型直接在iPhone上运行的新路径。据CNBC报道,苹果正与一家由加州理工学院孵化的硅谷公司PrismML进行早期技术评估洽谈,后者声称已能将阿里巴巴开源大模型通义千问大幅压缩,使其在消费级手机上完整运行。

PrismML首席执行官Babak Hassibi向CNBC透露,公司已将通义千问模型从约54GB压缩至不足4GB,内存占用降至原来的十五分之一,从而让全部270亿参数能在iPhone 15及更新机型上本地运行。Hassibi将双方接触描述为“非常早期的阶段”,目前尚不清楚会走向何方,但“进展顺利”。苹果未对此置评。

这一技术动向恰逢苹果向公众推送iOS 27公测版,首次大规模开放经过长期重构的Siri。苹果正试图让Siri在与OpenAIAnthropic的助手竞争中更具吸引力,同时将更多个人信息和AI处理留在设备端。PrismML的技术恰好对准了苹果AI战略的核心约束:当前最强大的模型通常需要过多内存和算力,难以在智能手机上运行。

PrismML的压缩方法并非简单的模型剪枝或量化。据Hassibi介绍,其核心在于大幅简化模型内部信息的存储方式——将每个数值从16比特压缩至仅1或3种可能取值,从而显著降低存储和运算所需内存。他将其类比为芯片行业从8位计算迈向4位计算,但走得更远。该公司称,压缩后的模型内存占用降低10至15倍,响应生成速度提升6至8倍,能耗降低3至6倍,且均基于现有硬件实现。

不过,压缩也带来性能折损。Hassibi坦承,模型整体性能通常会下降几个百分点,其中事实回忆能力衰退较明显,而推理、数学和编程等技能相对稳健。PrismML已免费发布两个压缩版模型,设计用于iPhoneMacBook及搭载英伟达芯片的PC等日常设备。

产业分析师对此持审慎乐观态度。Creative Strategies总裁Carolina Milanesi指出,更小的模型能让苹果将计算摄影、视频生成以及依赖敏感个人数据的健康与健身工具等更复杂的功能迁移到iPhone本地。“能在设备端处理得越多越好,”她强调,尤其涉及用户希望保密的健康和用药数据时。Asymco创始人Horace Dediu则认为,苹果的目标并非单纯降低内存占用,而是在同等物理限制下塞进更强大的模型,让绝大多数常见Siri交互留在本地,仅将最复杂的任务交给云端。

但技术落地仍面临关键考验。Counterpoint Research研究总监Tarun Pathak提醒,模型在长提示词下的表现、多任务场景的电池消耗,以及面对数百万次请求、数千种设备组合时的可靠性,才是真正的试金石。IDC客户端处理器研究负责人Phil Solis则指出,功耗可能是最大的未知数——即便内存需求降低,一个足够强大、能频繁甚至持续在后台运行的模型仍可能快速耗尽手机电量。

PrismML的技术源自Hassibi在加州理工的研究团队,大学持有底层专利并独家授权给该公司。今年3月,PrismML完成1625万美元种子轮融资,由Khosla Ventures等参投。Hassibi表示,谷歌的开源模型Gemma将是下一个压缩对象,之后会瞄准更大规模的模型,包括目前通常需要数据中心硬件才能运行的前沿实验室模型。该公司认为,这项技术最终可延伸至手机和笔记本电脑之外,进入机器人、自主系统等需要快速本地决策的领域。

此次洽谈正值业界围绕AI效率提升是否会最终减少对内存芯片和昂贵数据中心基础设施需求的激烈辩论之际。若端侧模型压缩技术成熟并大规模普及,可能从结构上改变云端推理算力的增长曲线,并对HBM高带宽内存等关键零部件的长期需求叙事产生深远影响。对苹果而言,其软硬件一体化的设计能力——从iPhone芯片到操作系统的垂直整合——可能为这类压缩模型的部署提供独特优势,但PrismML的技术主张仍需在受控演示之外得到大规模验证。