英伟达(NVIDIA)与甲骨文(Oracle)宣布,计划将Oracle Cloud Infrastructure (OCI) Superclusters中的英伟达Vera Rubin NVL72系统扩展至多吉瓦级规模,以应对AI训练、推理及智能体应用日益增长的需求。随着Vera Rubin NVL72和英伟达Vera CPU在OCI上的正式推出,双方进一步深化了在AI基础设施领域的合作。

此次合作旨在为客户提供覆盖GPU密集型工作负载(如前沿模型训练与服务)及CPU密集型任务(如智能体工具调用、代码执行和数据检索)的基础设施。客户可独立扩展CPU和GPU资源以匹配实际需求,从而减少闲置容量,提升基础设施利用率。

OCI Superclusters助力多吉瓦级AI部署

OCI Superclusters集成了英伟达NVL72机架级系统、搭载Spectrum™-6交换机和BlueField®-4 DPU的Oracle Acceleron网络、Spectrum-X™以太网网络,以及吉瓦级供电和冷却系统,专为训练和服务最大规模AI模型设计。每个机架通过NVLink™连接72个GPU,而OCI弹性多层平面网络支持跨数十万个GPU的扩展。

此次Vera Rubin扩展建立在OCI现有的英伟达基础设施(包括GB200和GB300 NVL72系统)之上。借助英伟达通用的CUDA®软件基础及持续优化,客户可在不同硬件代际间支持演进的模型和工作负载。

此外,OCI计划推出NVIDIA HGX Rubin NVL8。该配置在基于x86的服务器中通过NVLink连接8个Rubin GPU,配备两颗64核Intel Xeon 6 CPU、4TB DDR5内存及6.4 Tbps高速RDMA网络,为AI训练、微调及推理提供灵活部署选项,同时保持与基于x86应用的兼容性。

OpenAI已展示该基础设施对前沿AI的支持能力。在阿比林(Abilene),OpenAI利用拥有超过10万个英伟达Blackwell GPU的OCI Supercluster,完成并服务了GPT-6 Astra模型的训练。

OpenAI计算基础设施工程负责人Sreekanth Pothanis表示:“随着前沿模型的进步,我们需要能跟上步伐的基础设施。OCI上的英伟达Vera Rubin提供了加速模型训练及服务严苛AI工作负载所需的计算性能和规模。”

Vera CPU加速AI智能体幕后运算

AI智能体需执行工具调用、代码运行和信息检索等CPU密集型操作。若这些任务执行缓慢,将导致GPU在模型调用间隙处于等待状态。搭载英伟达Vera CPU的OCI Compute凭借高单线程性能与内存带宽,加速单个工具调用和代码执行,并确保并发任务下的数据供应,从而减少GPU空闲时间,维持负载扩展时的一致性。

为支持此类工作负载,OCI Kubernetes Engine允许客户独立扩展CPU和GPU资源,Oracle Acceleron则为运行不受信任的AI生成代码提供硬件级隔离。包括OpenAI在内的早期访问客户正在探索Vera CPU在各类AI工作负载中的潜力。

OpenAI计算首席技术官Uday Ruddarraju指出:“OCI上的英伟达Vera CPU为我们要快速增长的智能体沙箱工作负载提供了世界级的满载性能。我们正将Vera引入OCI生产环境,以大规模支持这些工作负载。”

Oracle云计算基础设施总裁Mahesh Thiagarajan表示,通过与英伟达合作,将Vera Rubin GPU和Vera CPU与Oracle Acceleron网络及AI优化数据中心结合,帮助客户在需求增长的同时,保持GPU的高效、安全与可扩展性。

英伟达超大规模和高性能计算副总裁Ian Buck强调,AI工厂必须高效、耐用且可互换。双方合作将Vera Rubin和Vera CPU引入OCI,旨在帮助客户最大化现有基础设施价值,并在AI演进过程中持续维持其效用。