百度文心于11月9日首次对外披露其在递归自我改进(RSI)方向上的进展,公布了一套名为ERNIE Evolve的自动研究系统,并称该系统已实际参与即将发布的文心5.5 Flash的推理优化工作。
RSI的核心思路是让AI直接介入自身的研发流程,通过不断提出假设、实验验证和积累经验,形成自我改进的闭环。目前OpenAI、Anthropic、腾讯、智谱等多家厂商都在探索将RSI引入模型研发,百度此次披露的是国内大厂中较为具体的生产级落地案例。
ERNIE Evolve采用双层循环来组织研究:外层循环结合历史实验结果和已有知识,提出新的研究方向并安排多条研究线并行探索;内层循环则针对具体方向持续进行代码修改、效果评测和经验沉淀。系统内部由多个智能体分工协作——Director负责选择研究方向,Selector确定每轮实验的目标和代码起点,Executor修改代码并生成新版本,独立评测程序Evaluator负责评测代码性能和实验结果,Reviewer则检查研究是否偏离目标或存在评测漏洞。只有通过评测和复核的改进才会被保留,每轮实验的代码改动、结果和经验都会被记录供后续参考。
在基准测试方面,ERNIE Evolve在NanoChat AutoResearch和NanoGPT Speedrun两项任务的三个评测指标上,均取得了目前公开验证的SOTA表现。
更值得关注的是其在真实生产环境中的表现。ERNIE Evolve接入文心5.5 Flash的推理优化后,在三个方向上取得了可量化的收益。在昆仑芯P800低时延场景优化中,系统历时约168小时、经过4轮方向探索,先后接入原生融合算子并启用投机解码,再对主机调度与同步机制、通信路径进行优化,最优版本的生成速度提升至基线的623.6%。在确定性推理吞吐优化中,ERNIE Evolve用3天时间围绕确定性采样、确定性开关及算子并行策略开展3个方向的探索,在严格保持确定性的前提下,最终将吞吐提升至基线的133.7%,平均每token生成时间缩短26%,首token延迟降低12%。在极致解码速度优化中,系统累计探索7个研究方向,其中3个方向通过对MoE与mHC算子、矩阵乘与调度策略以及草稿模型关键路径的优化带来有效提升,最终实现推理性能累计提升至基线的114.9%,精度与基线保持一致。上述改动均已通过文心团队的压测与正确性检查,并完成生产级验证。
文心技术博客指出,推理基础设施优化是RSI在真实研发中的第一个落点。未来,同样的研究闭环将逐步延伸至训练系统优化、模型能力研究和评测体系迭代,推动AI自主发现问题、提出假设、设计实验并验证结果。扩展过程将在明确的目标、权限和资源边界内进行,并接受持续的安全评估与人工监督。
从产业视角看,RSI若能在模型研发中持续兑现效率提升,可能改变两个层面的竞争格局。其一,模型迭代速度将不再完全依赖人力投入的线性增长,研发效率的边际成本有望下降;其二,ERNIE Evolve在昆仑芯P800上的优化成果,说明自动研究系统能够针对特定国产芯片进行深度调优,这对国产算力生态的软件适配具有实际意义。不过,目前披露的成果集中在推理优化这一相对明确的工程问题上,RSI能否在更开放的模型能力研究、训练系统优化等环节复制同等效果,仍有待观察。
此外,百度已于11月5日正式开源最新基座模型文心5.5 Flash Base,该模型在知识、推理、数学、代码、多语言和长上下文等多个基准测试中取得同尺寸模型SOTA表现。接近百度人士透露,文心新模型或将于近期发布。