Оценка производительности
NVIDIA RTX PRO 6000 Blackwell Server
Экспертное сравнение
NVIDIA GeForce 9800 GTX из 2008 года выпуска значительно уступает NVIDIA RTX PRO 6000 Blackwell Server по многим параметрам. RTX PRO 6000 Blackwell Server имеет гораздо больше ядер (24064 против 128), большую пропускную способность (1.79 ТБ/с против 70.4 ГБ/с) и значительно большую память (96 ГБ против 512 МБ). Он также потребляет больше энергии (600 Вт против 140 Вт) и обладает более высокой производительностью по индексу GPU Performance Index (57.5 против нет данных). RTX PRO 6000 Blackwell Server подходит для вычислительных задач, машинного обучения и графики на серверах, тогда как 9800 GTX больше ориентирован на игры и базовые вычисления.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
96
ГБ
Тип памяти
Пропускная способность памяти
1.79 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
126,0
TFLOPS
BF16
TF32
Вычислительная мощность
FP32 (float)
+29 060%
126,0
TFLOPS
FP64 (double)
1,968
TFLOPS
CUDA ядра
+18 700%
24 064
RT ядра
188
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
+1 075%
188
PCIe версия
Программная поддержка ML
CUDA версия
12.0
Частоты и производительность
Base Clock
1 590
Boost Clock
2 617
Memory Clock
+59%
1 750
Энергопотребление
TDP/TGP
-77%
140 W
Рекомендуемый БП
-70%
300 W
Разъём питания
Рендеринг
Текстурные блоки (TMU)
+1 075%
752
ROP
188
L2 Cache
+100%
128 MB
Бенчмарки
MLPerf, llama2-70b-99.9 (fp4)
MLPerf, llama3.1-8b (fp4)
Geekbench AI, FP16
Geekbench AI, INT8
Geekbench AI, FP32
MLPerf, mixtral-8x7b (fp8)
Дополнительно
Слоты
Дата выпуска
Дисплейные порты
Арендовать дешевле, чем покупать
H200 (141GB)
NVIDIA
Первая GPU с памятью HBM3e (141 ГБ) на архитектуре Hopper. Создана для генеративного ИИ и HPC задач. До 2X быстрее для LLM inference по сравнению с H100. Поддерживает FP8, FP16, TF32 и другие форматы точности.
от 375,0 руб/час
H100 80Gb PCIe (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
от 299,11 руб/час
H100 80Gb SXM (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3 в форм-факторе SXM. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
от 299,11 руб/час
Tesla A100 (80GB)
NVIDIA
Видеокарта для исследований на пике современных алгоритмов LLM, CV и пр. Создана специально для ML вычислений.
от 200,89 руб/час
RTX 4090 (48GB)
NVIDIA
Десктопная карта с аппаратной поддержкой Ray Tracing, DLSS 3.5, кодеками H.264/H.265/AV1 и увеличенной видеопамятью 48 ГБ GDDR6X.
от 81,85 руб/час
RTX 3090 (24GB)
NVIDIA
Десктопная карта с аппаратной поддержкой Ray Tracing, DLSS, H.264, H.265
от 34,23 руб/час
RTX A5000 (24GB)
NVIDIA
Создана для обработки видеопотоков, готова к виртуализации. Профессиональная карта с аппаратной поддержкой Ray Tracing, DLSS, H.264, H.265
от 31,25 руб/час
Tesla A10 (24GB)
NVIDIA
Видеокарта идеальная для инференса ИИ, обработки видео, CAD и BIM проектирования, CAE исследований, поддерживающих вычисления на GPU.
от 26,79 руб/час
