谷歌的自研 AI 芯片 TPU 已首次在外部客户的数据中心里承担生产级 AI 任务。根据谷歌开发者博客的公告，Meta 的数据中心目前正通过新版 SGLang 推理引擎运行 TPU，该版本原生支持 PyTorch，不再需要把模型改写成谷歌自家的 JAX 框架。与此同时，另一款主流推理引擎 vLLM 也发布了对应的开源版本。
这一进展的核心在于软件层的打通。此前 SGLang 与 vLLM 在 TPU 上都依赖 JAX，而 PyTorch 是 Meta 主导、业界使用最广的 AI 框架。新版本让 PyTorch 模型基本无需重写就能把 TPU 当作原生硬件选项，等于拆掉了 TPU 进入主流开发者生态的一道门槛。
Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 表示，SGLang-TorchTPU 已在 Meta 的生产环境中运行，这是 Meta、谷歌与 SGLang 团队三方紧密合作的结果。该引擎由 SGLang 创作者创办的 RadixArk 与谷歌、Meta 共同构建。Meta 的 PyTorch 工程总监 Jana van Greunen 则称，Meta 不能被单一硬件架构所限制，TorchTPU 让公司可以把 PyTorch 工作负载部署到谷歌 TPU 上。谷歌方面表示，TorchTPU 是与 Meta 的 PyTorch 团队联合开发的。
这并非 Meta 第一次尝试使用 TPU。谷歌把旧的 PyTorch/XLA 桥接方案称为 TorchTPU 的“前身”，SemiAnalysis 曾报道 Meta 的研究团队在 2020 至 2023 年间通过该桥接使用过 TPU，后来取消了相关合同。谷歌此次推动 PyTorch 原生支持 TPU，主要目标就是 Meta——后者并不愿意迁移到 JAX。目前尚不清楚 Meta 生产环境中的 TPU 具体位于何处，但去年的报道提到双方讨论过 2026 年租赁谷歌云 TPU、2027 年进行采购，Meta 后来据报签署了一份多年期租赁协议。
值得注意的是，这一公告发布在 PyTorch 大会期间，而就在前一天，亚马逊刚宣布开源 TorchNeuron——其为自家 Trainium2 和 Trainium3 芯片打造的原生 PyTorch 后端。两家云厂商接连出招，意图都指向松动英伟达以 CUDA 为核心的软件锁定。
性能方面，据 Inferact 的测试，在第七代 Ironwood TPU 上，经过调优的 vLLM 配置运行 Moonshot AI 的开源权重模型 Kimi K3（2.8 万亿参数）时，单用户吞吐超过 700 tokens/秒。Inferact 由 vLLM 创作者创办，协助谷歌构建了 vLLM-TorchTPU。该测试使用 16 颗 Ironwood 芯片并启用推测解码，对比 vLLM 公布的 16 颗英伟达 GB200 配置所达到的 452 tokens/秒。Inferact 称，其针对 Kimi K3 和 Qwen 3.8 27B 的内核在小批量、不启用推测解码的情况下，吞吐约为 GB200 基线的 1.4 至 2 倍。
SGLang-TorchTPU 计划继续扩充模型支持，首批将加入 DeepSeek V4.1 Flash 和 Reflection Beam，并目标在 2027 年第一季度前实现对新的开源模型“Day 0”支持，即发布当天即可在 TPU 上运行。谷歌、Meta 与 RadixArk 还计划在 2026 年 11 月 12 日至 13 日于旧金山举行的 SGLang 峰会上披露更多细节。
从产业视角看，TPU 进入 Meta 生产环境的意义不止于一次客户签约。它意味着超大规模云厂商在推理环节开始认真构建“非英伟达”的备选路径，而软件生态的兼容性正是这条路径过去最大的短板。PyTorch 原生支持的推进，可能降低其他客户评估 TPU 的迁移成本，进而影响 AI 加速器市场的竞争节奏与算力采购的议价结构。不过，TPU 目前公开的性能对比仍集中在特定模型与特定配置下，其在大规模训练和更广泛工作负载上的表现，仍需更多独立验证。