NVIDIA A100 PCIe 80 GB vs AMD Radeon Instinct MI300X

Содержание:

Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Физические характеристики Дополнительно

Память

Объем памяти

80 ГБ

192 ГБ

Тип памяти

HBM2e HBM3

Пропускная способность памяти

1.94 TB/s

10.3 TB/s

Ширина шины памяти

5 120 бит 8 192 бит

ML-производительность

FP16 (half)

77,97 TFLOPS

653,7 TFLOPS

BF16

311,84 TFLOPS

Нет

TF32

155,92

Нет

Вычислительная мощность

FP32 (float)

19,49 TFLOPS

81,72 TFLOPS

FP64 (double)

9,746 TFLOPS

81,72 TFLOPS

CUDA ядра

6 912

19 456

RT ядра

Нет Нет

Архитектура и совместимость

Архитектура GPU

Ampere CDNA 3.0

SM (Streaming Multiprocessor)

108

Нет

PCIe версия

PCIe 4.0 x16 PCIe 5.0 x16

Программная поддержка ML

CUDA версия

8.0

Нет

Частоты и производительность

Base Clock

1 065

1 000

Boost Clock

1 410

2 100

Memory Clock

1 512

2 525

Энергопотребление

TDP/TGP

300 W 750 W

Рекомендуемый БП

700 W 1150 W

Разъём питания

8-pin EPS None

Рендеринг

Текстурные блоки (TMU)

432

1 216

ROP

Нет Нет

L2 Cache

80 MB

16 MB

Физические характеристики

Слоты

Dual-slot OAM Module

Дополнительно

Дата выпуска

28 июня 2021 г. 6 декабря 2023 г.

Дисплейные порты

No outputs

NVIDIA A100 PCIe 80 GB vs AMD Radeon Instinct MI300X

Мы сравнили две дискретные видеокарты: NVIDIA A100 PCIe 80 GB с 80 Гб видеопамяти HBM2e и 6 912 CUDA ядра против GeForce AMD Radeon Instinct MI300X 192 Гб видеопамяти HBM3 и 19 456 CUDA ядра.

25,6

94,1