NVIDIA RTX A5000-12Q vs AMD Radeon Instinct MI300X

Мы сравнили две дискретные видеокарты: NVIDIA RTX A5000-12Q с 12 Гб видеопамяти GDDR6 и 8 192 CUDA ядра против GeForce AMD Radeon Instinct MI300X 192 Гб видеопамяти HBM3 и 19 456 CUDA ядра.

Загружаемся...

Оценка производительности

AMD Radeon Instinct MI300X опережает NVIDIA RTX A5000-12Q на 526,5% в суммарном рейтинге производительности GPU ARK

A100 A100
H200 H200
MI325X MI325X

NVIDIA RTX A5000-12Q

15,0

NVIDIA RTX A5000-12Q

15,0

RX 7900 XTX RX 7900 XTX
MI250 MI250
Instinct MI300X Instinct MI300X

AMD Radeon Instinct MI300X

94,1

AMD Radeon Instinct MI300X

94,1

Содержание:

Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Физические характеристики Дополнительно

Память

Объем памяти

12 ГБ
🔥 192 ГБ

Тип памяти

GDDR6 HBM3

Пропускная способность памяти

768.0 GB/s
🔥 10.3 TB/s

Ширина шины памяти

384 бит 8 192 бит

ML-производительность

FP16 (half)

27,77 TFLOPS
🔥 653,7 TFLOPS

BF16

Нет Нет

TF32

Нет Нет

Вычислительная мощность

FP32 (float)

27,77 TFLOPS
🔥 81,72 TFLOPS

FP64 (double)

0,43389999999999995 TFLOPS
🔥 81,72 TFLOPS

CUDA ядра

8 192
🔥 19 456

RT ядра

🔥 64
Нет

Архитектура и совместимость

Архитектура GPU

Ampere CDNA 3.0

SM (Streaming Multiprocessor)

🔥 64
Нет

PCIe версия

PCIe 4.0 x16 PCIe 5.0 x16

Программная поддержка ML

CUDA версия

🔥 8.6
Нет

Частоты и производительность

Base Clock

🔥 1 170
1 000

Boost Clock

1 695
🔥 2 100

Memory Clock

2 000
🔥 2 525

Энергопотребление

TDP/TGP

230 W 750 W

Рекомендуемый БП

550 W 1150 W

Разъём питания

1x 8-pin None

Рендеринг

Текстурные блоки (TMU)

256
🔥 1 216

ROP

🔥 64
Нет

L2 Cache

🔥 6 MB
16 MB

Физические характеристики

Слоты

Dual-slot OAM Module

Дополнительно

Дата выпуска

12 апреля 2021 г. 6 декабря 2023 г.

Дисплейные порты

4x DisplayPort 1.4a
No outputs

Арендовать дешевле, чем покупать

Tesla A100 (80GB)

NVIDIA

Для серьёзных продакшенов и многомодальных моделей

от 100 руб/час

RTX 3090 (24GB)

NVIDIA

Для домашних экспериментов и pet-проектов

от 29 руб/час

Quadro RTX A5000 (24GB)

NVIDIA

Оптимально для разработки и отладки

от 24 руб/час

Tesla A10 (24GB)

NVIDIA

Надёжная база для инференс-фермы

от 17 руб/час