上海人工智能实验室(Shanghai AI Laboratory)近日在Hugging Face平台开源了InternLumina-U2,一个将语言、图像、视频和3D统一到单一框架的多模态模型。该模型采用16B参数、激活仅1B的稀疏混合专家(MoE)架构,官方将其定位为“多码本扩散大语言模型”,主打全视觉理解、图像生成与编辑能力。

从任务覆盖看,InternLumina-U2试图用一个模型完成文本问答、文生图、图像理解、图像编辑、视频理解和3D理解六类任务。其技术核心是8码本全离散视觉表征,该表征基于AToken构建,配合高效稀疏主干网络,在保持较低推理激活量的同时处理多种模态输入输出。

值得关注的是,该仓库同时托管了同一架构在不同硬件栈上训练的检查点:ascend/目录对应华为昇腾NPU训练,nvidia/目录对应英伟达GPU训练。这意味着模型从训练阶段就考虑了国产算力与主流GPU两条路径,为后续在不同基础设施上的部署提供了便利。

目前模型以Apache 2.0许可开源,推理代码、环境配置和示例已放在GitHub仓库中,用户运行infer_1024_sft.sh时需将CHECKPOINT指向上述子目录之一。不过,官方标注的基准测试结果尚属“初步、部分结果”,完整对比表格将在即将发布的技术报告中呈现。

从产业视角看,InternLumina-U2的发布延续了多模态统一模型的发展趋势——用单一架构替代过去理解、生成、编辑各自为政的模型组合。其16B-A1B的稀疏设计,在参数规模与推理成本之间寻求平衡,对关注高效多模态推理的开发者具有参考价值。同时,昇腾与英伟达双栈检查点的提供,也反映出国内AI团队在训练基础设施多元化上的实际推进。后续技术报告中的完整评测数据,将是判断该模型实际能力边界的关键。