NVIDIA H100 SXM5 64 GB

NVIDIA H100 SXM5 64 GB — 64 Гб HBM3, 16,896 ядер, GPI 46.8

Loading...

Performance Rating

The H100 SXM5 64 GB is a professional graphics card by NVIDIA, launched on March 21st, 2023. Built on the 5 nm process, and based on the GH100 graphics processor, the card does not support DirectX. Since H100 SXM5 64 GB does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The GH100 graphics processor is a large chip with a die area of 814 mm² and 80,000 million transistors. It features 16896 shading units, 528 texture mapping units, and 24 ROPs. Also included are 528 tensor cores which help improve the speed of machine learning applications. NVIDIA has paired 64 GB HBM3 memory with the H100 SXM5 64 GB, which are connected using a 3072-bit memory interface. The GPU is operating at a frequency of 1665 MHz, which can be boosted up to 1980 MHz, memory is running at 1313 MHz.

A100 A100
H200 H200
MI325X MI325X

NVIDIA H100 SXM5 64 GB

46.8

NVIDIA H100 SXM5 64 GB

46.8

Memory

Memory Size

64 ГБ

Memory Type

Memory Bandwidth

2.02 TB/s

Memory Bus Width

3,072 бит

ML Performance

FP16 (Half Precision)

267.6 TFLOPS
998.4 TFLOPS
(Intel UHD Graphics 730)

BF16 (Brain Float)

No TFLOPS
311.84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32 (TensorFloat)

Compute Power

FP32 (Single Precision)

66.91 TFLOPS

FP64 (Double Precision)

33.45 TFLOPS
1,204,000.0 TFLOPS
(AMD Radeon RX 7900M)

CUDA Cores

Architecture & Compatibility

GPU Architecture

Hopper

SM (Streaming Multiprocessor)

PCIe Version

PCIe 5.0 x16

ML Software Support

CUDA Version

Clocks & Performance

Base Clock

Boost Clock

Memory Clock

Power Consumption

TDP/TGP

700 W
unknown
(NVIDIA CMP 70HX)

Recommended PSU

Power Connector

8-pin EPS

Rendering

Texture Units (TMU)

Additional

Slots

SXM Module
SXM Module
(NVIDIA H200 SXM 141 GB)

Release Date

March 21, 2023

Display Outputs

No outputs
4x mini-DisplayPort 2.0
4x HDMI 2.1
(SPARKLE Arc A310 OmniView)

FAQ

Для каких задач подходит NVIDIA H100 SXM5 64 GB?

NVIDIA H100 SXM5 64 GB идеально подходит для высокопроизводительных вычислений, машинного обучения (ML), искусственного интеллекта (AI) и научных вычислений. Она также может быть использована для гейминга на очень высоких настройках качества, хотя это не её основное предназначение.

С какими конкурентами сравнить и чем отличается NVIDIA H100 SXM5 64 GB?

NVIDIA H100 SXM5 64 GB можно сравнить с конкурентами на рынке, такими как AMD Instinct MI300 или другим моделем NVIDIA A100. Основные преимущества H100 включают более высокую пропускную способность памяти, улучшенную архитектуру и лучшую эффективность энергопотребления по сравнению с предыдущими поколениями. Однако, MI300 может предлагать более конкурентоспособную цену при аналогичной производительности.

Достаточно ли питания/охлаждения для этой карты?

Для NVIDIA H100 SXM5 64 GB требуется мощный источник питания, который должен поддерживать минимум 1600 Вт. Также потребуется эффективное охлаждение, так как TDP составляет 700 Вт. Рекомендуется использовать систему охлаждения с большим радиатором и несколькими вентиляторами для обеспечения стабильной работы карты.

Стоит ли брать эту карту в 2025-2026 году?

В 2025-2026 году NVIDIA H100 SXM5 64 GB будет актуальной для специализированных задач, таких как вычислительная инфраструктура для больших данных, ML и AI. Она будет особенно полезна для организаций, требующих высокой производительности и энергоэффективности. Однако, если вам нужна более доступная цена, можно рассмотреть модели предыдущих поколений или альтернативы от других производителей.

Recommendations

Эта видеокарта идеально подходит для обработки больших объемов данных, машинного обучения и искусственного интеллекта благодаря высокой пропускной способности памяти и мощной архитектуре Hopper. Также она хорошо справляется с вычислительными задачами в области научных вычислений и рендеринга.

Renting is cheaper than buying