Оценка производительности
AMD Radeon Instinct MI300X опережает PCYES RTX 3080 Graffiti на 532,39% в суммарном рейтинге производительности GPU ARK
PCYES RTX 3080 Graffiti
Экспертное сравнение
AMD Radeon Instinct MI300X значительно превосходит PCYES RTX 3080 Graffiti по многим параметрам. MI300X имеет больше ядер (19456 против 8704), большую память (192 ГБ HBM3 против 10 ГБ GDDR6X) и гораздо большую пропускную способность (10.3 ТБ/с против 760.3 ГБ/с). Также у MI300X более высокий индекс производительности GPI (94.1 против 14.9). MI300X подходит для вычислений, машинного обучения и других вычислительно интенсивных задач.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
+1 820%
192
ГБ
Тип памяти
Пропускная способность памяти
10.3 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
+2 096%
653,7
TFLOPS
BF16
TF32
Вычислительная мощность
FP32 (float)
+175%
81,72
TFLOPS
FP64 (double)
+17 470%
81,72
TFLOPS
CUDA ядра
+124%
19 456
RT ядра
68
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
68
PCIe версия
Программная поддержка ML
CUDA версия
Частоты и производительность
Base Clock
+44%
1 440
Boost Clock
+23%
2 100
Memory Clock
+113%
2 525
Энергопотребление
TDP/TGP
-57%
320 W
Рекомендуемый БП
-39%
700 W
Разъём питания
Рендеринг
Текстурные блоки (TMU)
+347%
1 216
ROP
68
L2 Cache
5 MB
Бенчмарки
MLPerf, llama2-70b-99.9 (UNSET)
MLPerf, llama2-70b-99.9 (fp16)
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, llama3.1-405b (UNSET)
MLPerf, llama3.1-405b (fp16)
llama.cpp, llama-2-7b-Q4_0
MLPerf, mixtral-8x7b (fp8)
Дополнительно
Слоты
Дата выпуска
Дисплейные порты
Арендовать дешевле, чем покупать
H200 (141GB)
NVIDIA
Первая GPU с памятью HBM3e (141 ГБ) на архитектуре Hopper. Создана для генеративного ИИ и HPC задач. До 2X быстрее для LLM inference по сравнению с H100. Поддерживает FP8, FP16, TF32 и другие форматы точности.
от 375,0 руб/час
H100 80Gb PCIe (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
от 299,11 руб/час
H100 80Gb SXM (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3 в форм-факторе SXM. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
от 299,11 руб/час
Tesla A100 (80GB)
NVIDIA
Видеокарта для исследований на пике современных алгоритмов LLM, CV и пр. Создана специально для ML вычислений.
от 200,89 руб/час
RTX 4090 (48GB)
NVIDIA
Десктопная карта с аппаратной поддержкой Ray Tracing, DLSS 3.5, кодеками H.264/H.265/AV1 и увеличенной видеопамятью 48 ГБ GDDR6X.
от 81,85 руб/час
RTX 3090 (24GB)
NVIDIA
Десктопная карта с аппаратной поддержкой Ray Tracing, DLSS, H.264, H.265
от 34,23 руб/час
RTX A5000 (24GB)
NVIDIA
Создана для обработки видеопотоков, готова к виртуализации. Профессиональная карта с аппаратной поддержкой Ray Tracing, DLSS, H.264, H.265
от 31,25 руб/час
Tesla A10 (24GB)
NVIDIA
Видеокарта идеальная для инференса ИИ, обработки видео, CAD и BIM проектирования, CAE исследований, поддерживающих вычисления на GPU.
от 26,79 руб/час
