返回行业动态
算力与基础设施

谷歌一年放出四款 TPU:这次一颗管机密推理,一颗把两颗芯片塞进同一封装

谷歌 11 月 9 日扩充第八代 TPU 阵容,新增 TPU 8tx 与 TPU 8i Max。前者首次在 TPU 上实现硬件级机密计算,与 AMD 第五代 EPYC 主机 CPU 搭配,面向政府与受监管行业的机密推理;后者把两颗 TPU 8i 集成到单一封装,算力、片上 SRAM 与 HBM 带宽同时翻倍,主打百万级上下文与多智能体负载。谷歌称两款新品明年上市。

来源:Google 官方博客:Our newest TPUs: 8tx and 8i Max, built for the agentic era原标题:Our newest TPUs: 8tx and 8i Max, built for the agentic era查看原文
两组深色机柜墙并排,右侧为紧密堆叠的双层机柜,中央悬浮两片叠合的半透明发光晶片与金色光带

图片来源:北京拓实科技原创(AI 生成封面)

发生了什么

11 月 9 日,谷歌在官方博客宣布扩充第八代 TPU 产品线,新增 TPU 8tx 与 TPU 8i Max。加上今年 4 月 Google Cloud Next 上发布的训练型 TPU 8t 与推理型 TPU 8i,第八代在一年内凑齐四款系统——这是谷歌首次在同一年推出四款 TPU。谷歌芯片业务负责人 Amin Vahdat 的说法是,这四款不是四颗新芯片,而是按客户需求重新配置的四个系统,「未来属于专用化」。两款新品均计划明年上市。

两颗新品各自解决什么问题

TPU 8tx 沿用与 TPU 8t 相同的硅片,配第五代 AMD EPYC 主机 CPU,是首款具备硬件级机密计算的 TPU:数据与模型权重在处理过程中保持加密与隔离,不会以明文形式停留在内存里。谷歌称其推理延迟最高可比 8t 降低一半,目标客户是政府机构与金融、医疗等受监管行业,用途覆盖机密推理、模型微调和强化学习。TPU 8i Max 则是把两颗低延迟的 TPU 8i 放进同一个封装,算力、片上 SRAM、HBM 带宽同时翻倍,在同样机柜面积内容纳两倍的硅片,主打百万 token 级上下文与多智能体负载,谷歌点名的场景是药物研发、数学与编程。

与硬件同步发布的还有 Agent Compute Engine 软件:它能在毫秒级暂停闲置的智能体会话,把工作内存移出芯片,避免智能体在等待外部工具或人工反馈时持续占用算力。这条更新针对的是智能体负载的典型形态——大量时间在等待,而不是在计算。

  • 第八代四款分工:8t 负责大规模训练,8i 负责实时推理,8tx 负责机密推理,8i Max 负责超长上下文与高密度。
  • 谷歌称 TPU 业务目前已有近 100 家客户,包括前沿实验室、交易机构、零售商与高校,并已支持客户把 TPU 部署进自有数据中心。
  • 软件侧同步开放 PyTorch 支持与自动化工具,降低非 JAX 技术栈的迁移成本。
  • 财联社援引研究机构测算:TPU 销售额将从今年约 120 亿美元增至 2028 年逾 1350 亿美元;Anthropic 有权在 2028 至 2031 年间购买至多 1500 亿美元的 TPU。

为什么值得企业关注

一是采购口径变了。过去企业选加速卡主要看算力与显存,现在谷歌把「机密计算」和「每机架密度」单独做成 SKU,意味着合规与机房面积开始成为与算力并列的选型维度。对金融、医疗、政务类客户,硬件级隔离往往比多几百 TFLOPs 更能决定项目能否过审;对已经卡在机房电力与面积上的团队,单柜密度翻倍等于绕开了部分扩容审批。二是供给仍是约束。谷歌承认 TPU 需求旺盛、货源已被预订,但零部件短缺制约供货,这意味着即便产品线变细,实际可交付量未必同步放大。

不确定之处

谷歌没有公布两款新品的具体算力数字、定价与客户名单,8i Max 的「双倍」是相对单颗 8i 而言,不能直接与竞品参数横比。机密计算的实际性能损耗、以及 Agent Compute Engine 在真实智能体负载下的调度效果,都还没有第三方测试。此外,客户自有数据中心部署 TPU 的商务条款未披露,这条路径能否规模化,取决于交付与运维责任如何划分。

编辑说明

本文由北京拓实科技根据公开信息整理,核心事实与数据请以原始来源为准。