AMD Radeon Instinct MI308X

AMD Radeon Instinct MI308X — 192 Гб HBM3, 19,456 ядер, GPI 94.1

Loading...

Performance Rating

The Radeon Instinct MI308X is a professional graphics card by AMD, launched on December 6th, 2023. Built on the 5 nm process, and based on the Aqua Vanjaram graphics processor, the card does not support DirectX. Since Radeon Instinct MI308X does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The Aqua Vanjaram graphics processor is a large chip with a die area of 1017 mm² and 153,000 million transistors. It features 19456 shading units, 1216 texture mapping units, and 0 ROPs. Also included are 1216 tensor cores which help improve the speed of machine learning applications. AMD has paired 192 GB HBM3 memory with the Radeon Instinct MI308X, which are connected using a 8192-bit memory interface. The GPU is operating at a frequency of 1000 MHz, which can be boosted up to 2100 MHz, memory is running at 2525 MHz.

A100 A100
H200 H200
MI325X MI325X

AMD Radeon Instinct MI308X

94.1

AMD Radeon Instinct MI308X

94.1

Memory

Memory Size

192 ГБ

Memory Type

Memory Bandwidth

10.3 TB/s

Memory Bus Width

8,192 бит

ML Performance

FP16 (Half Precision)

653.7 TFLOPS
998.4 TFLOPS
(Intel UHD Graphics 730)

BF16 (Brain Float)

No TFLOPS
311.84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32 (TensorFloat)

Compute Power

FP32 (Single Precision)

81.72 TFLOPS

FP64 (Double Precision)

81.72 TFLOPS
1,204,000.0 TFLOPS
(AMD Radeon RX 7900M)

CUDA Cores

Architecture & Compatibility

GPU Architecture

CDNA 3.0

SM (Streaming Multiprocessor)

PCIe Version

PCIe 5.0 x16

ML Software Support

CUDA Version

Clocks & Performance

Base Clock

Boost Clock

Memory Clock

Power Consumption

TDP/TGP

750 W
unknown
(NVIDIA CMP 70HX)

Recommended PSU

Power Connector

Rendering

Texture Units (TMU)

Additional

Slots

OAM Module
SXM Module
(NVIDIA H200 SXM 141 GB)

Release Date

Dec. 6, 2023

Display Outputs

No outputs
4x mini-DisplayPort 2.0
4x HDMI 2.1
(SPARKLE Arc A310 OmniView)

FAQ

Для каких задач подходит видеокарта AMD Radeon Instinct MI308X?

Видеокарта AMD Radeon Instinct MI308X предназначена для вычислений на GPU (HPC), машинного обучения (ML) и искусственного интеллекта (AI). Она также может быть полезна для научных исследований и высокопроизводительного вычисления благодаря высокой пропускной способности и количеству ядер.

Какие видеокарты можно сравнить с AMD Radeon Instinct MI308X и чем она отличается?

Видеокарты для HPC и ML, такие как NVIDIA A100, могут быть хорошим вариантом для сравнения. AMD Radeon Instinct MI308X отличается от NVIDIA A100 более высоким количеством ядер (19456 против 8000) и использованием HBM3 памяти вместо GDDR6. Однако NVIDIA A100 имеет более высокую FP32 производительность (195.84 TFLOPS против 81.72 TFLOPS).

Достаточно ли питания и охлаждения для этой карты?

Видеокарта AMD Radeon Instinct MI308X потребляет 750 Вт при работе, что требует мощного блока питания. Рекомендуется использовать блок питания не менее 1000 Вт с высокой эффективностью. Для охлаждения также потребуется надежная система охлаждения, так как видеокарта имеет высокую TDP и большое количество ядер. Рекомендуется установить жидкостное охлаждение или использовать систему с несколькими вентиляторами.

Стоит ли брать эту карту в 2025-2026 году?

В 2025-2026 годах стоит рассмотреть обновление или замену видеокарты, так как технологии будут продолжать развиваться. Возможно, появятся новые модели с более высокими характеристиками. Тем не менее, если вам необходима высокая пропускная способность и большое количество ядер для вычислений на GPU, AMD Radeon Instinct MI308X может быть актуальной до следующего поколения.

Recommendations

Эта видеокарта хорошо подходит для вычислительно-интенсивных задач, таких как машинное обучение (ML) и искусственный интеллект (AI), благодаря высокой пропускной способности памяти и количеству ядер. Она также может быть полезна для настольного гейминга и научных вычислений, но будет наиболее эффективной в областях, требующих мощных вычислительных ресурсов.

Renting is cheaper than buying