谷歌AI基础设施负责人Amin Vahdat在红杉资本合伙人Sonia Huang的深度访谈中，系统阐述了这场被其称为人类历史上规模最大的资本开支建设背后的技术逻辑。他透露，谷歌今年资本开支预计超过2000亿美元，其中大部分用于数据中心建设，而他本人正牵头这一建设。

Vahdat首先纠正了业界衡量算力的方式。他认为FLOPS属于"虚荣指标"，只反映单颗芯片的理论上限，而真实工作负载的性能取决于数千乃至数万颗加速器、CPU、网络与存储如何协同。他更看重goodput（有效吞吐）——即在故障与同步等待等损耗之后，系统实际交付的有效算力。他解释说，在10万加速器规模上，总会有组件在坏，一旦同步工作负载中任一环节失败，整个系统可能需回滚到上一个检查点重算，这部分"无效功"正是goodput与throughput之间的差值。故障来源呈长尾分布，涵盖网络互连、硬件、编译器缺陷、运行时错误乃至操作系统问题，且每代新产品都会带来新的故障模式。

访谈中，Vahdat把长程智能体（long-horizon agent）的兴起视为过去一年影响数据中心设计的最大结构性变量。传统人机交互存在数秒到数十秒的"人类节拍"，天然限制请求频率；而智能体无需等待人类，响应延迟可从秒级压缩至毫秒级，请求密度呈数量级提升。同时，智能体在推理与编排环节大量依赖CPU——解析上一步响应、判断下一步行动、从本地DRAM、远端内存、SSD或HDD抓取上下文，这些操作都跑在CPU而非加速器上。因此他强调，加速计算需求上升的同时，CPU、网络、存储等传统数据中心组件的需求也在暴涨。这也带来布局两难：若在加速器机架旁配置大量CPU机架，会破坏专用化设计；若分置不同建筑，楼间网络将引入数百微秒排队延迟并推高成本。

芯片层面，谷歌今年发布的第八代TPU首次拆分为两颗独立芯片：8i用于推理、8t用于训练。Vahdat称这是对推理市场规模预判的直接结果——随着推理在总算力需求中占比预计升至50%乃至更高，专用化的边际收益开始超过灵活性损失。但他强调拆分设置了安全阀：两颗芯片均保留执行对方工作负载的能力，只是非专长方向性能有所折损，否则就必须提前精准预测六年生命周期内两类负载的需求量，风险难以承受。在更宏观的专用化谱系上，他提到从通用GPU到Transformer原语固化、乃至"将特定模型架构烧入硅片"的连续路径，称已有公司探索最后一步，谷歌认为矩阵乘法、softmax等原语已基本固化于硬件，进一步专用化到具体模型层"非常非常有趣"但尚未落地。

网络方面，谷歌约15年前率先将波分复用（WDM）引入数据中心，随后叠加光路交换（optical circuit switching），在纯光域完成路由，绕过传统电分组交换逐包查表的环节。最初采用MEMS微机电开关，通过三维空间内精确控制微型反射镜角度，把任意输入光纤端口的光信号导向指定输出端口。该技术最初服务于两个目标：在高频通信的计算集群与存储集群之间建立光域捷径，以及在无需人工移动光纤的前提下通过软件控制器动态重构拓扑以扩缩容。在TPU集群中，光路交换还具备容错价值：某个TPU机架故障时，系统可在毫秒级内将光路重新指向备用机架，直接压缩goodput损失。他还提到，轨道数据中心场景下组件间将真正转向自由空间激光通信——这正是地面场景回避该方案的原因（衰减损耗与大规模三维对准难度过高），但在太空环境中限制大幅弱化。

被问及最大约束，Vahdat的回答直接：电力是最根本的约束，其他问题似乎都知道如何在一段时间内解决，电力则是长期绑定问题。谷歌首选与公用事业并网而非自建独立电源，理由是统计复用效应——若完全自给，达到99.99%以上可靠性意味着需建设两倍装机容量；通过长期协同在更大基数上平滑需求波动，双方均可降低冗余成本。谷歌承诺自行承担因其接入所需新增的输电线路和变电站费用，避免转嫁其他用户。但供需错配现实存在：若某年需要1吉瓦而公用事业当年只能提供700兆瓦，谷歌可能临时自建太阳能加储能填补缺口，并在最热月份将本地发电回馈电网。关于单体数据中心最优规模，他称这是"大量争论的来源"且高度依赖选址：训练集群偏向吉瓦级集中部署以最小化网络延迟，服务集群则需分布全球贴近用户、单体更小。

Vahdat还描述了与DeepMind的协同设计，形容为"在芯片架构飞行途中做修改"。谷歌同时推进五至六代TPU：已量产、调试上线、即将tape-out、设计中、概念阶段，构成横跨数年的并行流水线。对即将tape-out的芯片，若DeepMind提出能带来重大收益的模型优化，双方可紧急评估是否值得推迟tape-out以纳入硬件修改；对设计阶段的芯片，则进行三到四年维度的模型架构趋势共预测。他还披露，谷歌目前已在使用Gemini为未来版本的Gemini设计硬件，形成模型辅助芯片设计的闭环。

对于十年后的算力形态，Vahdat给出两条并行路径。地面形态上，他预计集成度大幅提升，机架将从外部可见的繁复光纤束演变为"只有一小束光纤从机架里出来"的高度集成单元，单个机架功耗可能达数兆瓦量级，进场安装仅需接入电、水、光纤三路即可运行。在轨道路径上，谷歌已将轨道数据中心列为正式推进的moonshot项目，核心逻辑是能源优势：太空无大气衰减使可用功率天然高出约40%，太阳同步轨道可实现98%至100%的日照覆盖，而地面设施通常仅28%至35%，叠加后能量密度优势可达3至4倍且无碳排放。主要挑战在于冷却、可靠性维修以及组件间通信，但他认为这些问题"没有根本性showstopper"。

对关注AI产业的读者而言，Vahdat的表态提供了几个可追踪的信号：电力而非芯片被超大规模厂商内部认定为长期瓶颈，意味着发电、输电与储能环节可能持续受益；软件与模型优化对容量提升的贡献"很可能不少于硬件"，暗示算力供给的弹性部分来自算法效率；而TPU推理与训练分拆，则折射出推理市场在总算力中占比快速膨胀的产业趋势。