企业级人工智能正迎来关键转折点。随着多模态模型与复杂智能体工作流逐渐取代基础的请求-响应模式,传统基于单台8 GPU服务器的机架架构已触及基础设施瓶颈。当前的限制因素不再仅仅是原始浮点运算能力(FLOPS),而是更多地受制于内存域一致性边界、互连延迟以及散热上限。

GIGAPOD NVIDIA Vera Rubin NVL72:专为万亿参数AI打造

技嘉(GIGABYTE)与英伟达(NVIDIA)联合工程团队推出了GIGAPOD NVIDIA Vera Rubin NVL72。这是一款专为万亿参数智能体AI设计的工厂集成式、交钥匙机架解决方案。该方案通过第6代NVLink 260 TB/s全交换网络,将72个NVIDIA Rubin GPU和36个NVIDIA Vera CPU整合进一个具备单一一致性的20.7 TB HBM4内存域中。

在散热方面,GIGAPOD采用高密度直接液冷(DLC)技术,支持每机架高达240 kW的功耗。该系统可捕获机架92%以上的热量,并能在45摄氏度的温水环境下稳定运行,从而消除了对高能耗机房冷水机组的依赖。

核心优势与经济效益

突破基础设施瓶颈:统一的机架级内存域有效消除了长推理链期间的内存卸载停顿问题。

极速部署:经过L11/L12预测试的GIGAPOD单元,将集群集成周期从数月大幅缩短至数天,显著提升交付效率。

下一代设施适配:方案提供了关于适配54V直流母线、5,000安培配电以及行内冷却分配单元(CDU)的实用工程见解。

更高的投资回报率:在计算机架占地面积减半的情况下,Vera Rubin NVL72提供的NVFP4推理吞吐量比上一代架构高出25%。

对于旨在实现艾克斯字节级(Exascale)AI就绪的企业而言,这一技术与战略方案为规划未来路线图提供了重要参考。