NVIDIA® H200 Tensor Core GPU | RunSun Cloud

NVIDIA® H200
Tensor Core GPU

The world's most powerful GPU for supercharging AI and HPC workloads.

The world's most powerful GPU
NVIDIA® H200 GPUs 现已可用

NVIDIA® H200 Tensor Core GPU 拥有革命性的性能和内存能力,显著提升了生成式人工智能和高性能计算工作负载的表现。

使用H200 SXM,您将获得:

  • Higher Performance and Larger, Faster Memory
  • 通过高性能LLM推理解锁洞察力
  • 加速高性能计算
  • 降低能耗和总拥有成本

前三大应用场景

生成式人工智能

H200 GPU 非常适合用于生成式 AI 应用,如虚拟现实、娱乐、医学成像和药物设计,这些应用利用深度学习生成新的数据,包括图像、视频、音频和文本。

高性能计算

H200 GPU 能够加速科学研究和工业应用中的高性能计算任务,例如天气和气候预测、药物发现和量子计算。

深度学习与大型语言模型

H200 GPU 在深度学习方面表现出色,特别是在训练和推理大型语言模型时,能够处理大量参数,适用于文本分析、语言翻译和内容创作等任务。

技术规格

Form Factor H200 SXM
FP64 34 TFLOPS
FP64 Tensor Core 67 TFLOPS
FP32 67 TFLOPS
TF32 Tensor Core 989 TFLOPS
BFLOAT16 Tensor Core 1,979 TFLOPS
FP8 Tensor Core 3,958 TFLOPS
INT8 Tensor Core 3,958 TFLOPS
GPU Memory 141GB
GPU Memory Bandwidth 4.8TB/s
Decoders 7 NVDEC
7 JPEG
Max Thermal Design Power (TDP) Up to 700W (configurable)
Multi-Instance GPUs Up to 7 MIGs @16.5GB each
Form Factor SXM
Interconnect NVIDIA NVLink®: 900GB/s
PCIe Gen5: 128GB/s
Server Options NVIDIA HGX„¢ H200 partner and NVIDIA-Certified Systems„¢ with 4 or 8 GPUs
NVIDIA AI Enterprise Add-on