NVIDIA A100 PCIe 80 GB vs NVIDIA RTX 2000 Ada Generation

Содержание:

Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Физические характеристики Дополнительно

Память

Объем памяти

80 ГБ

16 ГБ

Тип памяти

HBM2e GDDR6

Пропускная способность памяти

1.94 TB/s

256.0 GB/s

Ширина шины памяти

5 120 бит 128 бит

ML-производительность

FP16 (half)

77,97 TFLOPS

12,0 TFLOPS

BF16

311,84 TFLOPS

Нет

TF32

155,92

Нет

Вычислительная мощность

FP32 (float)

19,49 TFLOPS

12,0 TFLOPS

FP64 (double)

9,746 TFLOPS

0,1874 TFLOPS

CUDA ядра

6 912

2 816

RT ядра

Нет

Архитектура и совместимость

Архитектура GPU

Ampere Ada Lovelace

SM (Streaming Multiprocessor)

108

PCIe версия

PCIe 4.0 x16 PCIe 4.0 x8

Программная поддержка ML

CUDA версия

8.0

8.9

Частоты и производительность

Base Clock

1 065

1 620

Boost Clock

1 410

2 130

Memory Clock

1 512

2 000

Энергопотребление

TDP/TGP

300 W 70 W

Рекомендуемый БП

700 W 250 W

Разъём питания

8-pin EPS None

Рендеринг

Текстурные блоки (TMU)

432

ROP

Нет

L2 Cache

80 MB

12 MB

Физические характеристики

Слоты

Dual-slot Dual-slot

Дополнительно

Дата выпуска

28 июня 2021 г. 12 февраля 2024 г.

Дисплейные порты

No outputs

4x mini-DisplayPort 1.4a

NVIDIA A100 PCIe 80 GB vs NVIDIA RTX 2000 Ada Generation

Сравнение NVIDIA A100 PCIe 80 GB с 80 Гб HBM2e и 6 912 ядрами против NVIDIA RTX 2000 Ada Generation с 16 Гб GDDR6 и 2 816 ядрами.