Оценка производительности
NVIDIA H100 SXM5 94 GB опережает NVIDIA A100 PCIe 80 GB на 125,32% в суммарном рейтинге производительности GPU ARK
NVIDIA H100 SXM5 94 GB
Экспертное сравнение
NVIDIA H100 SXM5 94 GB значительно превосходит NVIDIA A100 PCIe 80 GB по числу ядер (16896 против 6912), объему памяти (94 ГБ HBM3 против 80 ГБ HBM2e) и пропускной способности (3.36 ТБ/с против 1.94 ТБ/с). H100 также имеет более высокую производительность в FP32 (66.91 ТФЛОПС против 19.49 ТФЛОПС). Однако H100 потребляет больше энергии (700 Вт против 300 Вт) и имеет более высокий индекс производительности (57.8 против 25.6). Лучше подходит для вычислительных задач, требующих больших объемов памяти и высокой производительности.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
+18%
94
ГБ
Тип памяти
Пропускная способность памяти
+73%
3.36 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
+243%
267,6
TFLOPS
BF16
311,84
TFLOPS
TF32
155,92
Вычислительная мощность
FP32 (float)
+243%
66,91
TFLOPS
FP64 (double)
+243%
33,45
TFLOPS
CUDA ядра
+144%
16 896
RT ядра
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
+22%
132
PCIe версия
Программная поддержка ML
CUDA версия
9.0
Частоты и производительность
Base Clock
+27%
1 350
Boost Clock
+40%
1 980
Memory Clock
+15%
1 512
Энергопотребление
TDP/TGP
-57%
300 W
Рекомендуемый БП
-36%
700 W
Разъём питания
Рендеринг
Текстурные блоки (TMU)
+22%
528
ROP
L2 Cache
+60%
80 MB
Бенчмарки
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, mixtral-8x7b (fp8)
Дополнительно
Слоты
SXM Module
Дата выпуска
Дисплейные порты
Арендовать дешевле, чем покупать
H200 (141GB)
NVIDIA
Первая GPU с памятью HBM3e (141 ГБ) на архитектуре Hopper. Создана для генеративного ИИ и HPC задач. До 2X быстрее для LLM inference по сравнению с H100. Поддерживает FP8, FP16, TF32 и другие форматы точности.
от 375,0 руб/час
H100 80Gb PCIe (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
от 299,11 руб/час
H100 80Gb SXM (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3 в форм-факторе SXM. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
от 299,11 руб/час
Tesla A100 (80GB)
NVIDIA
Видеокарта для исследований на пике современных алгоритмов LLM, CV и пр. Создана специально для ML вычислений.
от 200,89 руб/час
RTX 4090 (48GB)
NVIDIA
Десктопная карта с аппаратной поддержкой Ray Tracing, DLSS 3.5, кодеками H.264/H.265/AV1 и увеличенной видеопамятью 48 ГБ GDDR6X.
от 81,85 руб/час
RTX 3090 (24GB)
NVIDIA
Десктопная карта с аппаратной поддержкой Ray Tracing, DLSS, H.264, H.265
от 34,23 руб/час
RTX A5000 (24GB)
NVIDIA
Создана для обработки видеопотоков, готова к виртуализации. Профессиональная карта с аппаратной поддержкой Ray Tracing, DLSS, H.264, H.265
от 31,25 руб/час
Tesla A10 (24GB)
NVIDIA
Видеокарта идеальная для инференса ИИ, обработки видео, CAD и BIM проектирования, CAE исследований, поддерживающих вычисления на GPU.
от 26,79 руб/час
