AMD Radeon Instinct MI355X

AMD Radeon Instinct MI355X — 288 Гб HBM3e, 16,384 ядер, GPI 93.5

Loading...

Performance Rating

The Radeon Instinct MI355X will be a professional graphics card by AMD, that is expected to launch in 2025. Built on the 3 nm process, and based on the CDNA Next graphics processor, the card does not support DirectX. Since Radeon Instinct MI355X does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The CDNA Next graphics processor is a large chip with a die area of 1017 mm² and 185,000 million transistors. It features 16384 shading units, 1024 texture mapping units, and 0 ROPs. Also included are 1024 tensor cores which help improve the speed of machine learning applications. AMD has paired 288 GB HBM3e memory with the Radeon Instinct MI355X, which are connected using a 8192-bit memory interface. The GPU is operating at a frequency of 1000 MHz, which can be boosted up to 2400 MHz, memory is running at 2000 MHz.

A100 A100
H200 H200
MI325X MI325X

AMD Radeon Instinct MI355X

93.5

AMD Radeon Instinct MI355X

93.5

Memory

Memory Size

288 ГБ

Memory Type

Memory Bandwidth

8.19 TB/s

Memory Bus Width

8,192 бит

ML Performance

FP16 (Half Precision)

629.1 TFLOPS
998.4 TFLOPS
(Intel UHD Graphics 730)

BF16 (Brain Float)

No TFLOPS
311.84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32 (TensorFloat)

Compute Power

FP32 (Single Precision)

78.64 TFLOPS

FP64 (Double Precision)

78.64 TFLOPS
1,204,000.0 TFLOPS
(AMD Radeon RX 7900M)

CUDA Cores

Architecture & Compatibility

GPU Architecture

CDNA 4.0

SM (Streaming Multiprocessor)

PCIe Version

PCIe 5.0 x16

ML Software Support

CUDA Version

Clocks & Performance

Base Clock

Boost Clock

Memory Clock

Power Consumption

TDP/TGP

1400 W
unknown
(NVIDIA CMP 70HX)

Recommended PSU

Power Connector

Rendering

Texture Units (TMU)

Benchmarks

MLPerf, llama2-70b-99.9 (mxfp4)

10 129 tokens/s

MLPerf, llama3.1-405b (mxfp4)

252.4 tokens/s

Additional

Slots

OAM Module
SXM Module
(NVIDIA H200 SXM 141 GB)

Release Date

July 15, 2025

Display Outputs

No outputs
4x mini-DisplayPort 2.0
4x HDMI 2.1
(SPARKLE Arc A310 OmniView)

FAQ

Для каких задач подходит Radeon Instinct MI355X?

Radeon Instinct MI355X предназначен для вычислительной науки и искусственного интеллекта (AI). Она идеально подходит для задач, требующих высокой параллельной вычислительной мощности, таких как тренировка глубоких нейронных сетей, моделирование и машинное обучение. Также она может быть полезна для исследовательских целей и разработки новых алгоритмов.

С какими конкурентами сравнить Radeon Instinct MI355X и чем она отличается?

Radeon Instinct MI355X можно сравнить с NVIDIA A100 и H100. Она отличается от NVIDIA A100 своей более высокой пропускной способностью памяти (8.19 TB/s против 1.6 TB/s у A100) и от NVIDIA H100 меньшим числом ядер (16384 против 80000 у H100). Однако у Radeon Instinct MI355X более высокий GPU Performance Index (93.5), что указывает на лучшую эффективность вычислений.

Достаточно ли питания и охлаждения для этой карты?

Для Radeon Instinct MI355X требуется значительное питание и мощное охлаждение. Она потребляет 1400 Вт, что требует блока питания мощностью не менее 1600 Вт. Для охлаждения рекомендуется использовать систему с несколькими вентиляторами или жидкостное охлаждение, чтобы справиться с высокими температурами при работе на полной нагрузке.

Стоит ли брать эту карту в 2025-2026 году?

В 2025-2026 году Radeon Instinct MI355X будет актуальной для научных исследований и разработки AI. Она предлагает высокую параллельную вычислительную мощность и хороший GPU Performance Index, что делает ее подходящей для современных задач. Однако стоит учитывать, что технологии быстро развиваются, и к концу этого периода могут появиться более передовые решения.

Recommendations

Эта видеокарта предназначена для вычислительной инженерии и научных вычислений. Она идеально подходит для задач глубокого обучения (ML/AI) и высокопроизводительного вычисления, особенно с использованием методов машинного обучения и обработки больших данных. Наличие 288 ГБ HBM3e обеспечивает высокую пропускную способность и производительность в задачах с большим объемом памяти.

Renting is cheaper than buying