自2018年以来,企业租用谷歌张量处理单元(TPU)几乎均通过谷歌云进行。这一格局即将打破:从2027年开始,甲骨文云基础设施(OCI)将利用其自有数据中心提供TPU芯片。与此同时,据知情人士透露,英伟达的重要客户OpenAI也计划采购TPU。

在拉斯维加斯举行的甲骨文AI世界大会上,双方宣布了这一合作。OCI将成为谷歌之外首个提供TPU的超大规模云服务。产能将于2027年到位并逐步增加。尽管未披露首批部署规模,但OCI高级副总裁Karan Batta形容这是一项“多年期、多吉瓦级”的合作,并承诺“当谷歌推出新一代TPU时,我们将在第一天就拥有它。”

关于OpenAI的动向,多家媒体援引知情人士消息称,该公司计划购买谷歌TPU,但财务条款尚不明确。OpenAI和谷歌均未对此置评。值得注意的是,英伟达已向OpenAI投资数百亿美元。

TPU走出谷歌数据中心

谷歌十多年前为自用研发TPU,2018年起向云客户出租。如今,向外部数据中心出售硬件成为新策略。此前报道显示,谷歌已在第二季度向Fluidstack等外部设施开放TPU,并与黑石集团合作开发美国的Crux AI云平台。甲骨文有望成为首家在谷歌平台之外上线TPU的公司。

目前,谷歌最大的TPU客户是Anthropic。去年10月,Anthropic同意使用多达100万个TPU。在其周一提交的IPO文件中,列出了与谷歌云计划进行的1145亿美元支出,但未详述TPU占比。Anthropic表示,混合使用谷歌、亚马逊、英伟达和AMD的芯片,有助于根据工作负载选择最佳性价比方案。

OCI客户将租用何种芯片

此次合作指向谷歌第八代TPU,包含两款芯片:专为训练设计的TPU 8t,其集群计算能力约为上一代的三倍;以及专为推理和智能体工作负载构建的TPU 8i。官方数据显示,第八代TPU每芯片的FP4计算能力最高可达12.6 petaflops。TPU之间通过谷歌互连技术通信,并通过甲骨文的Acceleron网络接入OCI。

软件兼容性是关键卖点。谷歌上周开源的PyTorch堆栈TorchTPU,可与vLLM、SGLang和Ray等工具配合,使模型无需重写代码即可在谷歌云和OCI的TPU间迁移。甲骨文则强调数据邻近性优势,便于已在甲骨文数据库中存储记录的系统微调和服务模型。

OCI总裁Mahesh Thiagarajan指出,不同AI工作负载有不同计算需求。甲骨文并未放弃英伟达,同日宣布在OCI上全面可用英伟达的Vera Rubin NVL72系统。

对外销售TPU对谷歌而言存在利润权衡。机构估计TPU销售的营业利润率约为20%,低于谷歌云整体约35%的水平。对于2027年TPU销售额,TD Cowen预测为625亿美元,富国银行则预测为990亿美元。谷歌CFO Anat Ashkenazi今年7月曾表示,现有TPU协议产生的收入中“绝大多数”将在明年体现。

Alphabet今日公布第三季度业绩,分析师预计谷歌云营收同比增长约90%。