NVIDIA H100 SXM5 94 GB vs NVIDIA A100 PCIe 80 GB

Содержание:

Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Физические характеристики Дополнительно

Память

Объем памяти

94 ГБ

80 ГБ

Тип памяти

HBM3 HBM2e

Пропускная способность памяти

3.36 TB/s

1.94 TB/s

Ширина шины памяти

5 120 бит 5 120 бит

ML-производительность

FP16 (half)

267,6 TFLOPS

77,97 TFLOPS

BF16

Нет

311,84 TFLOPS

TF32

Нет

155,92

Вычислительная мощность

FP32 (float)

66,91 TFLOPS

19,49 TFLOPS

FP64 (double)

33,45 TFLOPS

9,746 TFLOPS

CUDA ядра

16 896

6 912

RT ядра

Нет Нет

Архитектура и совместимость

Архитектура GPU

Hopper Ampere

SM (Streaming Multiprocessor)

132

108

PCIe версия

PCIe 5.0 x16 PCIe 4.0 x16

Программная поддержка ML

CUDA версия

9.0

8.0

Частоты и производительность

Base Clock

1 350

1 065

Boost Clock

1 980

1 410

Memory Clock

1 313

1 512

Энергопотребление

TDP/TGP

700 W 300 W

Рекомендуемый БП

1100 W 700 W

Разъём питания

8-pin EPS 8-pin EPS

Рендеринг

Текстурные блоки (TMU)

528

432

ROP

Нет Нет

L2 Cache

50 MB

80 MB

Физические характеристики

Слоты

SXM Module

Dual-slot

Дополнительно

Дата выпуска

21 марта 2023 г. 28 июня 2021 г.

Дисплейные порты

No outputs

NVIDIA H100 SXM5 94 GB vs NVIDIA A100 PCIe 80 GB

Мы сравнили две дискретные видеокарты: NVIDIA H100 SXM5 94 GB с 94 Гб видеопамяти HBM3 и 16 896 CUDA ядра против GeForce NVIDIA A100 PCIe 80 GB 80 Гб видеопамяти HBM2e и 6 912 CUDA ядра.

57,8

25,6