书生团队(InternLM)在 Hugging Face 上发布了 Intern-MemDec-4B,这是一个专为扩展 Intern-S2 骨干模型而设计的记忆解码器,旨在为通用科学基础模型注入 DNA、RNA、蛋白质及生物分子交互等领域的专业知识。该模型并非独立语言模型,而是作为辅助组件,与 Intern-S2 骨干并行处理上下文,并通过轻量级 token 级路由器动态融合两者的预测结果。

在性能评估中,团队将 Intern-MemDec-4B 与 Intern-S2-Preview-397B 搭配,在 Biology-Instructions 基准的全部 21 项任务上进行了测试。结果显示,平均得分从 56.92 提升至 60.32,提高了 3.40 分。其中,DNA 增强子活性、RNA 非编码 RNA 家族、RNA 平均核糖体负载等任务提升显著,但部分任务如蛋白质稳定性、抗体-抗原相互作用等得分略有下降。技术报告还显示,在通用和多模态基准上,模型能力与原始骨干基本持平,表明记忆解码器在扩展领域知识的同时,能较好地保留基础模型的通用能力。

Intern-MemDec-4B 的核心设计理念是“模块化领域扩展”。传统方法往往需要对整个骨干模型进行微调,这不仅成本高昂,还可能干扰模型原有的推理、指令遵循、多模态和智能体能力。而记忆解码器通过将领域数据中的检索证据压缩为可复用的参数化模块,在推理时无需访问原始检索库,即可为骨干模型提供额外的生物学知识和任务模式。这种“即插即用”的方式,使得模型能够在不改动骨干参数的前提下,持续引入新领域的知识。

该模型目前仅覆盖生物学领域,专注于 DNA 属性、增强子活性、转录因子预测,RNA 修饰、异构体、调控与相互作用,蛋白质功能、溶解度、稳定性、荧光和热稳定性,以及抗体-抗原等多序列生物分子交互任务。团队强调,Intern-MemDec-4B 不应被理解为覆盖所有科学学科的通用记忆,若要扩展到其他领域,需要单独训练对应的记忆解码器。

从产业视角看,这一发布为 AI 在生命科学等垂直领域的落地提供了新的思路。通过模块化记忆扩展,科研机构和企业可以更高效地定制基础模型,而无需承担全量微调的高昂成本。同时,这也为模型持续学习、适应快速演进的科学知识提供了可行路径。不过,该模型目前仍处于研究阶段,其实际应用效果和泛化能力尚需更多验证。