NVIDIA® GB200 NVL72
Introducing the cutting-edge NVIDIA GB200 compute tray, leveraging the full potential of NVIDIA's innovative MGX design.
Introducing the cutting-edge NVIDIA GB200 compute tray, leveraging the full potential of NVIDIA's innovative MGX design.
GB200 NVL72 是一种机架规模的液冷解决方案，连接36个Grace CPU和72个Blackwell GPU，实现单个72-GPU NVLink域，提供实时万亿参数LLM推理速度提升30倍。
使用GB200 SXM，您将获得：
NVIDIA Blackwell架构在加速计算方面树立了新的标杆，性能、效率和可扩展性无与伦比，采用定制的TSMC 4NP工艺，包含2080亿个晶体管。
NVIDIA Grace CPU 通过卓越的性能和内存带宽革新了数据中心计算，为AI、云计算和高性能计算应用提供2倍能效和前所未有的速度。
第五代NVIDIA NVLink解锁了exascale计算和万亿参数AI模型，使服务器集群中的每个GPU之间能够快速无缝地通信，从而提升性能。
NVIDIA Quantum-X800 InfiniBand、NVIDIA Spectrum X800 Ethernet和NVIDIA BlueField®-3 DPU使得成百上千个Blackwell GPU能够高效扩展，以实现最佳应用性能。
| Form Factor | GB200 NVL72 |
|---|---|
| Configuration | 36 Grace CPU : 72 Blackwell GPUs |
| FP4 Tensor Core | 1,440 PFLOPS |
| FP8/FP6 Tensor Core | 720 PFLOPS |
| INT8 Tensor Core | 720 POPS |
| FP16/BF16 Tensor Core | 360 PFLOPS |
| TF32 Tensor Core | 180 PFLOPS |
| FP32 | 6,480 TFLOPS |
| FP64 | 3,240 TFLOPS |
| FP64 Tensor Core | 3,240 TFLOPS |
| GPU Memory | Bandwidth | Up to 13.5 TB HBM3e | 576 TB/s |
| NVLink Bandwidth | 130TB/s |
| CPU Core Count | 2,592 Arm® Neoverse V2 cores |
| CPU Memory | Bandwidth | Up to 17 TB LPDDR5X | Up to 18.4 TB/s |