11月11日,孵化自北京大学软件工程研究所的AI编程公司硅心科技(aiXcoder)开源了上下文压缩专用模型aiXcompact-4B。该模型参数仅4B,支持单张A100-40GB显卡私有化部署,主要面向编程Agent的长程复杂研发任务场景。
随着Claude Code、Codex等AI编程工具被用于更复杂的研发任务,Agent需要持续读取代码、调用工具、执行测试,Token开销随之增长。一项基于OpenHands框架、覆盖8个前沿模型的研究发现,在SWE-bench Verified实验中,一个完整的智能体编程任务平均Token消耗约417万,是单轮代码推理的3500倍、多轮代码对话的1200倍,其中输入Token占据绝大部分消耗。同一批历史信息可能在多轮推理中被反复输入,重复输入带来的Token开销持续累积。因此,上下文压缩成为控制Agent运行成本、支撑长任务持续执行的重要工程环节。
aiXcompact-4B的核心思路是对编程Agent的历史轨迹进行结构化处理,生成三类决策:第一,保留关键原始信息,如开发者的核心需求、关键约束和重要决策,完整保留原始消息以减少改写导致的信息弱化;第二,精简工具返回结果,对文件读取、代码搜索和测试运行等返回的大量内容,保留工具调用但用精简文本替换冗长输出;第三,删除失去参考价值的记录,对重复内容或不再需要的中间输出进行删除,并配套校验动作,检查关键业务信息和调试信息是否已保留在任务摘要中。完成筛选后,模型生成结构化任务摘要,记录用户意图、关键技术信息、错误与修复过程以及待办事项,最终输出可供Agent继续执行的消息序列,并维持工具调用与返回结果的配对关系。
根据aiXcoder公布的数据,在Terminal-Bench基准测试中,将aiXcompact-4B接入OpenCode进行上下文压缩测试后,整体任务完成准确率与DeepSeek-V4-Pro持平。在私有化部署场景下,针对特定任务的单次GPU推理成本较DeepSeek-V4-Pro降低78%。采用API调用方式时,根据公开API费用估算,aiXcompact-4B单次上下文压缩请求的Token费用约为0.019元,相比DeepSeek-V4-Pro、GLM-5.3和Qwen3.8-Max的参考费用,分别降低97.30%、97.08%和97.98%。上下文压缩后,Agent需要反复读取的历史上下文也随之减少,在目标任务场景下,aiXcompact-4B可将历史上下文平均压缩至原长度的25.89%,为下一轮Agent调用腾出足量的上下文空间。
在专项评测中,aiXcompact-4B的规则综合分为0.7012,接近DeepSeek-V4-Pro的0.7332;信息保留规则分为0.4981,与DeepSeek-V4-Pro的0.4968基本相当。其平均保留率为25.89%,高于DeepSeek-V4-Pro的18.46%。
aiXcompact-4B的判断能力来自教师大模型蒸馏、4B学生模型LoRA微调与结构化压缩决策相结合的训练路径。训练数据全部来自真实研发场景下的Agent运行轨迹,团队先对轨迹进行归一化处理、过滤筛选和压缩触发点采样,再由教师模型生成参考压缩决策,经样本校验后用于学生模型专项训练。
从产业视角看,随着AI深入企业软件研发流程,不同环节对模型能力的需求开始分化。aiXcoder推出“大模型+小模型”协同方案:大模型聚焦需求拆解、复杂逻辑推演和架构设计,边界清晰、调用频次高的专项工作交给专用小模型,以降低企业算力使用成本。在aiXcompact-4B之外,aiXcoder已推出面向代码生成与补全的aiXcoder-7B、面向代码变更应用的aiXapply-4B、面向Token消耗优化的aiXpruner-4B等小模型,并即将推出面向Agent决策环节的aiXdecision模型。
上下文压缩模型的价值在于,如果能在减少冗余信息的同时保留需求、决策和调试线索,就有机会帮助Agent突破上下文开销带来的限制,承接更多复杂场景的任务。对于关注AI编程工具落地的投资者而言,这类轻量化专用模型能否在真实企业环境中稳定运行、并带动Agent任务边界扩展,将是后续观察重点。