发生了什么
在 2026 年 10 月 21 日于柏林举行的 NVIDIA GTC 大会上，谷歌云与英伟达联合公布了一批面向智能体负载的基础设施更新。核心是代号 A5X 的裸金属 GPU 实例：底层采用英伟达 Vera Rubin NVL72 整机柜系统，单柜含 72 颗 Rubin GPU 与 36 颗 Vera CPU，配 ConnectX-9 SuperNIC 网卡，并融合谷歌自研 Virgo 网络与第四代液冷。
A5X 将于 11 月正式商用，随后扩展至欧洲区域，以满足数据驻留与主权要求。与前代实例相比，这一代的设计取向明确指向多步、长时间的智能体工作流，而不是单次推理。
- 横向扩展：Virgo 网络采用网状拓扑，支持楼内与楼间无阻塞互联，单站点可扩展至 8 万颗 Rubin GPU，多站点部署上限 96 万颗
- 存储路径：托管 Lustre 支持 NVIDIA GPUDirect Storage，训练与推理数据可经 RDMA 直入 GPU 显存，绕过 CPU 与系统内存
- 上下文内存：支持高级 KV 缓存，把上下文从 HBM 卸载到分级存储并复用，以降低首 token 时延、提升每美元推理吞吐
- 编排：A5X 与 GKE 结合，GKE Managed DRANET 把网卡变为原生 Kubernetes 资源，Kueue 提供拓扑感知调度
- 生态：Gemma、Mistral、Nemotron 等开放权重模型进入主权云产品线；Cosmos 3 与 Nemotron 3.5 SuperVL 可在托管训练集群上定制
96 万卡这个数字该怎么读
需要明确区分三层口径。8 万颗是单站点集群的上限，96 万颗是跨区域多站点合计的规划上限，两者都不是当前已交付的硬件规模。实际部署节奏受电力供应、机房改造与供应链约束，历史经验表明这类数字通常以年为单位逐步兑现。把它理解为架构能力声明比理解为本季度产能更准确。
另一层价值在于分区策略。跨站点分布式集群主要服务对跨域时延与容灾有硬要求的大规模训练、强化学习与持续学习任务；单站点 8 万卡则面向紧耦合训练。这种「单站点极致 + 多站点编排」的组合，正在成为超大规模 AI 工厂的标准形态。
为什么对企业重要
对准备自建或租用算力的企业，这轮更新释放了两个信号。其一，KV 缓存与存储直通被提到与算力同等的位置，说明长上下文与多轮智能体的瓶颈已从 FLOPs 转向内存与数据通路；其二，主权云开始接纳开放权重模型，意味着受监管行业可以在保留权重与运行时控制权的前提下获得加速能力，而不必锁定单一模型供应商。
不确定之处
谷歌云未公布 A5X 的定价、单柜功耗与实际交付时间表；96 万卡为规划目标，落地进度取决于电力与供应链。首批客户 Ineffable Intelligence 的具体负载规模也未披露，因此目前无法评估该平台在大规模强化学习上的实际效率。