Name: NVIDIA H100 PCIe 96 GB
Brand: NVIDIA

Содержание:

Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Физические характеристики Дополнительно NVENC / NVDEC

Память

Объем памяти

96 ГБ

288 ГБ

(AMD Radeon Instinct MI325X)

Тип памяти

HBM3

HBM3e

(AMD Radeon Instinct MI325X)

Пропускная способность памяти

3.36 TB/s

10.3 TB/s

(AMD Radeon Instinct MI325X)

Ширина шины памяти

5 120 бит

8 192 бит

(AMD Radeon Instinct MI325X)

ML-производительность

FP16 (half)

248,3 TFLOPS

998,4 TFLOPS

(Intel UHD Graphics 730)

BF16

Нет TFLOPS

311,84 TFLOPS

(NVIDIA A800 SXM4 80 GB)

TF32

Нет

155,92

(NVIDIA A800 SXM4 80 GB)

Вычислительная мощность

FP32 (float)

62,08 TFLOPS

1 425,0 TFLOPS

(Matrox D1480 Quad DisplayPort)

FP64 (double)

31,04 TFLOPS

1 204 000,0 TFLOPS

(AMD Radeon RX 7900M)

CUDA ядра

16 896

24 064

(NVIDIA RTX PRO 6000 Blackwell Server)

RT ядра

Нет

188

(NVIDIA RTX PRO 6000 Blackwell Server)

Архитектура и совместимость

Архитектура GPU

Hopper

CDNA 4.0

(AMD Radeon Instinct MI355X)

SM (Streaming Multiprocessor)

132

188

(NVIDIA RTX PRO 6000 Blackwell Server)

PCIe версия

PCIe 5.0 x16

Ring Bus

(Intel Arc Graphics 24EU)

Программная поддержка ML

CUDA версия

9.0

(NVIDIA H200 SXM 141 GB)

Частоты и производительность

Base Clock

1 665

2 670

(MAXSUN Arc B580 Milestone)

Boost Clock

1 837

3 320

(ASRock RX 9060 XT Steel Legend OC 16 GB)

Memory Clock

1 313

2 525

(AMD Radeon Instinct MI325X)

Энергопотребление

TDP/TGP

700 W

unknown

(NVIDIA CMP 70HX)

Рекомендуемый БП

1100 W

950 W

(GIGABYTE AORUS RTX 5090 XTREME WATERFORCE WB)

Разъём питания

8-pin EPS

2x 16-pin

(GALAX RTX 5090 D HOF OC LAB XOC)

Рендеринг

Текстурные блоки (TMU)

528

1 216

(AMD Radeon Instinct MI325X)

ROP

Нет

188

(NVIDIA RTX PRO 6000 Blackwell Server)

L2 Cache

50 MB

96 MB

(GIGABYTE AORUS RTX 5090 XTREME WATERFORCE WB)

Физические характеристики

Слоты

Dual-slot

SXM Module

(NVIDIA H200 SXM 141 GB)

Дополнительно

Дата выпуска

21 марта 2023 г.

17 июля 2025 г.

(NVIDIA GeForce RTX 5070 Ti SUPER)

Дисплейные порты

No outputs

~~4x mini-DisplayPort 2.0~~
4x HDMI 2.1

(SPARKLE Arc A310 OmniView)

NVENC / NVDEC

NVENC поколение

N/A

NVENC чипов

Макс. сессий кодирования

N/A

Кодирование (NVENC)

H.264: ✗ H.265: ✗ AV1: ✗

NVDEC поколение

4th Gen

NVDEC чипов

Декодирование (NVDEC)

H.264: ✓ H.265: ✓ AV1: ✗ VP9: ✓

NVIDIA H100 PCIe 96 GB

NVIDIA H100 PCIe 96 GB — 96 Гб HBM3, 16 896 ядер, GPI 55,6