美国新实验室 Reflection 在 Hugging Face 上发布了其首个模型 Beam，并采用 Apache 2.0 开源许可。该模型为文本输入输出，总参数 501B，采用混合专家（MoE）架构，每个 token 仅激活约 23B 参数，上下文窗口达 100 万 token，主要面向编程与智能体（agentic）任务。Reflection 将其定位为「希望在自己硬件、基础设施或云上运行前沿级模型并做定制」的团队。
从架构看，Beam 的解码器有 52 层，隐藏维度 5,120。多数层使用滑动窗口注意力，只关注前 512 个 token；每第六层和最后一层做全上下文注意力，因此共有 43 个滑动窗口层和 9 个全局层。滑动窗口层用 RoPE 编码位置，全局层则不使用位置编码，而是对每个 query 乘以一个随可见 token 数缓慢增长的缩放因子，官方称之为「可扩展 softmax 查询缩放」，目的是在上下文拉长时保持 softmax 精度。注意力采用分组查询注意力，48 个 query 头、8 个 key-value 头，并在 query 和 key 上使用 RMSNorm。
MoE 部分，前 3 层为稠密 SwiGLU MLP，其余 49 层替换为含 256 个专家的 MoE 块，每个专家是中间维度 2,560 的 SwiGLU MLP，约 3,900 万参数。专家合计占模型参数的 98.4%。路由沿用 DeepSeek-V3 的分组受限方案：对 256 个专家做 sigmoid 打分，分成 8 组每组 32 个，保留得分最高的 4 组，再从中选前 8 个专家，每个 token 只跑这 8 个专家。与 DeepSeek-V3 不同，Beam 没有共享专家。专家输出按归一化路由权重加权后乘以 2.5。由于全部 256 个专家常驻内存，部署时需要 501B 模型级别的显存，但运行速度接近 23B 模型。
权重格式方面，BF16 检查点以 safetensors 格式存储约 1 TB；NVFP4 检查点面向 NVIDIA Blackwell GPU，大部分参数以 4 位精度存储，部分参数保留 BF16 以维持精度；Hub 上还有适合 Hopper 和 Ampere 系列芯片的 FP8 检查点。
Beam 在残差连接上做了独特设计。标准 Transformer 以权重 1 将每个子层输出累加到残差流，导致流随深度增长；Beam 把输入嵌入计为第 1 步，在第 k 步以 1/sqrt(k) 的权重加入子层输出，同时以 sqrt((k-1)/k) 保留原有流，两者平方和为 1，使残差流从首层到末层保持恒定尺度。全部 104 次加法完成后，每个子层输出与输入嵌入在最终隐藏状态中权重相同。每个子层前后都做归一化，最终 logits 经过 ±30 的 tanh softcap，并在 FP32 下计算。
推理与后训练方面，Beam 自带一个基于 Rust 的开源推理框架，官方称其能发挥模型最佳性能。模型提供原生 transformers 实现，并获 vLLM 和 SGLang 首日支持。Reflection 与 Hugging Face 合作提供了推理、监督微调（SFT）和强化学习（RL）配方，其中全参数 RL 使用 Miles。模型支持跨轮次保留推理内容（preserve_thinking），并配有专用语法的工具调用。推理强度分五档：low、medium（默认）、high、xhigh、max。此外还提供基于 DFlash2 的投机解码草稿模型。
为鼓励社区使用，Reflection 将向基于 Beam 的优秀项目发放 1 万美元 Hub 额度。参与者可在 Hub 上分享演示、量化版本、合成数据集、RL 环境或基准测试结果，只需将 Space、模型或数据集仓库链接分享到模型页面即可参与评选。
对 AI 产业而言，Beam 的意义在于把「前沿规模」与「可自持」两个属性结合：企业若对数据主权、推理成本或定制化有要求，可在自有基础设施上部署并做后训练，而不必完全依赖闭源 API。Apache 2.0 许可也降低了商用与二次分发的法律门槛。不过，501B 总参数意味着显存门槛不低，实际部署仍需要相当规模的 GPU 资源，这在一定程度上限制了能真正「自己拥有」的团队范围。开源模型与闭源前沿模型之间的能力差距、以及社区能否围绕 Beam 形成活跃的微调与工具生态，将是后续观察重点。