英伟达扩展数据中心产品组合:GB200 NVL4和H200 NVL PCIe GPU

英伟达在SC24超算大会上宣布，进一步拓展旗下数据中心产品线，带来GB200 NVL4和H200 NVL PCIe GPU两款产品。

GB200 NVL4是一种单服务器解决方案，扩展了Blackwell架构产品组合。其在单个主板上集成了四个Blackwell GPU和两个Grace CPU，利用NVLink互连技术实现相互间的通信，配有768GB的HBM3E和960GB的LPDDR5X内存，提供了32TB/s的组合内存带宽，拥有卓越的单服务器系统规格，使其成为要求苛刻的 AI 工作负载的强大动力源。

英伟达表示，GB200 NVL4与GH200 NVL4相比，提供了2.2倍的模拟性能、1.8倍的AI训练性能和1.8倍的AI推理性能。该系统的功耗达到5400W，安装了液冷散热系统，从而提供最佳的性能，预计将进入超大规模客户的服务器机架。

NVIDIA H200 NVL PCIe GPU是Hopper系列的最新成员，非常适合拥有数据中心的客户，适配低功耗、风冷式企业机架的设计，并具有灵活的配置，可为每个AI和HPC工作负载提供加速。根据最新的调查显示，大约70%的企业机架的功率为20kW及以下，并采用风冷散热，这使得PCIe GPU变得至关重要。

NVIDIA H200 NVL PCIe GPU为双槽厚度，TDP为600W，低于H200 SXM的700W，同时INT8 Tensor Core算力也相应降低，下降的幅度约为15.6% ，不过仍然支持双路或四路的900GB/s NVLink互联。相比于H100 NVL，新产品的显存是其1.5倍，带宽也达到了1.2倍，并拥有1.7倍的AI推理性能，在HPC应用中性能也高出了30%。