面壁智能在11月5日举行的端侧多模态大模型技术交流活动上披露，其MiniCPM-V 4.7 35B-A3B模型在手机上的生成速度已提升至30 Token/s以上，同时运行内存占用维持在约3GB，模型精度损失几乎可以忽略。该模型总参数量350亿，采用混合专家（MoE）架构，每次推理仅激活约30亿参数。此前，面壁智能已于10月13日发布并开源MiniCPM-V 4.7系列，包含35B-A3B和1B两个版本。

面壁智能联席首席科学家、清华大学人工智能学院助理教授姚远在分享中给出了一个大胆判断：按照过去几代大模型能力向端侧迁移的速度，未来两年内，GPT-6级别的智能能力有望在手机上以约3GB内存实现流畅运行。他坦言，这一判断目前尚未在行业形成广泛共识。

从3 Token/s到30 Token/s：推理优化如何补上差距

手机内存装不下完整的350亿参数模型，但闪存空间足以存储权重。以MiniCPM-V 4.7 35B-A3B为例，完整权重约65.6GiB，即便量化后仍可能超出普通手机运行内存。MoE模型的特点是每次生成Token只激活部分专家，因此可将大部分权重留在闪存、按需加载，但频繁读取会带来等待。

面壁智能多模态实验室成员蔡天驰拆解了关键优化技术——前瞻专家调度（Lookahead Expert Scheduling，LES）。该技术利用Transformer相邻层之间的残差连接特性，在当前层计算时提前预测下一层需要调用的专家，并同步将对应权重从闪存加载至内存，把原本串行的“确定专家—读取权重—执行计算”尽可能并行化。

根据披露的数据，在模型一层包含256个候选专家、实际激活8个专家的情况下，提前预测8个专家的命中率约为80%，即通常能提前猜中6至7个；若将预测范围扩大到16个，命中率可升至约96%，但读取开销也会增加。系统会在计算时继续加载未预测到的专家，并优先计算已就绪的专家。预测只影响读取和计算顺序，不改变模型最终路由选择，因此不会改变输出结果。

优化效果在速度上体现明显：在iPhone 17 Pro Max上，采用常规专家读取方式时，35B模型生成速度仅约3 Token/s；引入LES后提升至约13 Token/s；进一步利用新一代手机硬件达到约20 Token/s；最近几天的新一轮优化将速度推高至30 Token/s以上，内存占用仍约3GB。面壁智能此前公布的数据显示，在iPad Pro M4 16GB设备上，LES可使该模型生成速度平均提升约5倍。

端侧智能“撞线”：部分能力已超三年前云端旗舰

姚远用“撞线”来描述端侧智能的阶段性进展：当端侧模型能提供的智能水平超过某类用户需求的最低门槛时，这类任务就具备从云端转移到终端的条件。他将需求分为两类——一类是设计先进芯片、开发大型软件等几乎没有能力上限的复杂任务；另一类是大量日常生活和工作中能力要求相对稳定、存在明确上限的任务。对于后一类，端侧模型能力持续增长，总会有一部分任务达到本地可完成的水平。

他提出端侧智能发展的“三驾马车”：模型、硬件和AI基础设施（Infra）。模型提供智能能力，硬件提供计算资源，Infra则让模型计算需求与硬件资源高效匹配。面壁智能此前提出的智能密度定律认为，模型智能密度大约每3.5个月翻一番。

姚远认为，MiniCPM-V 4.7 35B-A3B的多模态智能水平至少已超过2023年的云端旗舰模型GPT-4V。三年前需要依赖大型云端计算资源才能提供的部分多模态能力，如今已可在手机上本地运行。不过他也指出，若以更强的新一代前沿模型为标准，端侧仍有距离，但不能通过不断提高评价标准来否认端侧已跨过的重要门槛。

模型能力密度：用更少计算看清世界

面壁智能多模态实验室成员余天予将提高模型智能密度的技术路线概括为三个问题：如何用更少的计算看清世界、如何用更少的步骤解决问题、如何以更低成本让模型学会新任务。

在视觉信息处理上，一张高清图片可能需要数千个视觉Token才能完成编码，连续理解视频更会迅速占据上下文空间。面壁智能在历代MiniCPM-V中持续提高视觉压缩效率：MiniCPM-V 2.5通过图像切分提高编码效率；后续版本引入时空联合压缩，识别相邻视频帧的共同信息以减少重复计算；到MiniCPM-V 4.5，相关技术已能实现最高96倍的视觉压缩。MiniCPM-V 4.7进一步引入LLaVA-UHD v4，在视觉编码器内部提前压缩视觉Token，将压缩环节前移，再减少约一半相关计算量。目前该模型支持4倍和16倍两种视觉Token压缩模式，前者保留更多细节适合文档解析，后者优先降低计算开销适合实时交互。

在后训练方面，团队通过RLHF-V将简单评分转变为直接纠错，再以RLAIF-V用AI反馈替代部分人工反馈，最新提出的RLPR（基于概率奖励的强化学习）则希望减少对专门验证器的依赖。针对微调中的灾难性遗忘问题，团队提出自回放微调（Self-Replay Fine-Tuning）：先由原始模型生成高质量通用任务回答，再与新任务数据混合训练。实验显示，该方法能将微调导致的能力遗忘减少80%至99%，同时基本保持新任务训练效果，且无需改变模型结构或损失函数，使用成本接近普通监督微调。

AI手机瓶颈：能力、权限与想象力

谈及当前AI手机，姚远认为面临两个主要障碍：模型能力仍不足以完成更多复杂任务；手机生态中的权限和数据壁垒影响智能体跨应用执行任务。他提到此前豆包手机遇到的应用权限限制，认为手机生态本身也需要变化。

在他看来，行业对AI原生手机的想象力仍然不足。“包括一些典型的应用，说实话也有点无聊，就点外卖、订飞机票等等，大家展示都是这些。”姚远认为，真正的AI原生手机应从用户理想中的使用体验出发，重新思考交互方式。面壁智能方面提到，未来可能不再需要专门强调“AI手机”概念，因为AI能力可能像今天的触屏一样成为手机基础功能。

对于手机厂商自研端侧模型的竞争，姚远表示，手机厂商可围绕自身硬件深度定制，但第三方模型厂商的优势在于能面向不同芯片、操作系统和推理框架广泛适配，并依靠开源社区形成生态。他分享了一组内部测试：在约10项基准测试中，苹果端侧模型综合得分约54至55分，与MiniCPM-V 4.7 1B水平大致相近，而MiniCPM-V 4.7 35B-A3B得分接近90分。