英伟达Vera CPU既可作为独立数据中心部件,也可作为Vera Rubin NVL72服务器的宿主。凭借相比前代Grace处理器显著增加的执行资源,Vera展现出强劲性能。但在SC26(Supercomputing 2026)大会上,英伟达承认,若软件不针对该架构进行调整,往往无法充分利用Vera的资源。

官方数据显示,针对特定架构的软件优化可在某些计算密集型工作负载中将Vera性能提升近39%。尽管Vera拥有无可匹敌的单线程性能,但其定位并非通用型处理器。

专有Olympus核心:取舍之间的性能极致

与依赖Arm现成Neoverse V2核心的Grace不同,Vera采用英伟达专有的Olympus核心,旨在最大化单核性能并确保高聚合吞吐量。为此,Olympus配备了宽前端,包括10宽解码器、神经分支预测器、深层乱序执行引擎、六个向量执行单元、四个加载管道和两个存储管道,并由大型私有缓存及高级预取机制支持。

英伟达特意选择了88个支持专有空间多线程技术(共176个线程)的高性能通用核心,而非追求每插槽核心数量最大化,因为极高的单线程性能是Vera的关键设计目标。

“CPU设计本质上是一场权衡的游戏,”负责Vera CPU营销的Hannah Coutand表示,“若为了大量核心而最大化芯片面积,实际上就没有空间来最大化IPC(每时钟周期指令数)。”

虽然Vera主要面向代理式AI及其他AI相关工作,但其在构思Olympus微架构时也考虑了数据处理应用。Coutand指出,Vera的高单核性能、高内存带宽和低内存访问延迟,正是代理式AI工作负载所需的关键属性。“Vera不是通用CPU,”她强调,“它专为需要高单核速度、高内存带宽和低延迟的工作负载设计。只要这些负载看重Vera的长处,它就具有广泛适用性。”

软件优化释放潜在算力

为评估Olympus微架构相对于Neoverse V2的优势,英伟达研究人员使用了基于OpenBLAS汇编内核的双精度通用矩阵乘法(DGEMM)工作负载。由于OpenBLAS缺乏专门为Olympus设计的内核,研究人员通过名为miniKernelGEMM的独立基准测试进行比较,该测试涉及适合放入L1缓存的128×128矩阵乘法。

在使用Neoverse V2内核时,Grace CPU实现了4.51 IPC和每周期13.03次FP64运算;运行相同代码时,Vera实现了5.43 IPC和每周期15.69次FP64运算,提升约20%。

然而,当使用专门为Olympus优化的内核时,Vera性能跃升至7.53 IPC和每周期21.75次FP64运算。在此特定负载下,Vera每核每时钟周期的性能较前代提升近67%。

架构层面,Grace的Neoverse V2拥有四个128位SIMD管道,每周期可执行16次FP64运算;而Olympus拥有六个此类管道,每周期最多可执行24次FP64运算,理论吞吐量提升50%。数据显示,针对Neoverse V2优化的内核利用了Grace峰值FP64吞吐量的81.4%,却仅利用了Vera约66.5%的计算能力。通过对矩阵分块、寄存器分配和指令调度进行微调以适配Olympus,研究人员成功将Vera的峰值FP64吞吐量利用率提升至90.6%。

基准测试结果证明,虽然现有基于Arm的软件能从Olympus核心中受益,但部分应用程序仍需微调才能充分释放新微架构的执行潜力。随着英伟达进军独立服务器CPU市场,确保关键软件能利用其处理器架构特性至关重要。凭借在CUDA等平台积累的生态系统开发经验,英伟达有望推动未来Vera CPU的广泛优化与应用。