AMD Radeon Instinct MI300X vs NVIDIA H100 PCIe 96 GB

Содержание:

Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Физические характеристики Дополнительно

Память

Объем памяти

192 ГБ

96 ГБ

Тип памяти

HBM3 HBM3

Пропускная способность памяти

10.3 TB/s

3.36 TB/s

Ширина шины памяти

8 192 бит 5 120 бит

ML-производительность

FP16 (half)

653,7 TFLOPS

248,3 TFLOPS

BF16

Нет Нет

TF32

Нет Нет

Вычислительная мощность

FP32 (float)

81,72 TFLOPS

62,08 TFLOPS

FP64 (double)

81,72 TFLOPS

31,04 TFLOPS

CUDA ядра

19 456

16 896

RT ядра

Нет Нет

Архитектура и совместимость

Архитектура GPU

CDNA 3.0 Hopper

SM (Streaming Multiprocessor)

Нет

132

PCIe версия

PCIe 5.0 x16 PCIe 5.0 x16

Программная поддержка ML

CUDA версия

Нет

9.0

Частоты и производительность

Base Clock

1 000

1 665

Boost Clock

2 100

1 837

Memory Clock

2 525

1 313

Энергопотребление

TDP/TGP

750 W 700 W

Рекомендуемый БП

1150 W 1100 W

Разъём питания

None 8-pin EPS

Рендеринг

Текстурные блоки (TMU)

1 216

528

ROP

Нет Нет

L2 Cache

16 MB

50 MB

Физические характеристики

Слоты

OAM Module Dual-slot

Дополнительно

Дата выпуска

6 декабря 2023 г. 21 марта 2023 г.

Дисплейные порты

No outputs

AMD Radeon Instinct MI300X vs NVIDIA H100 PCIe 96 GB

Сравнение AMD Radeon Instinct MI300X с 192 Гб HBM3 и 19 456 ядрами против NVIDIA H100 PCIe 96 GB с 96 Гб HBM3 и 16 896 ядрами.