Performance Rating
The Radeon Instinct MI300X is a professional graphics card by AMD, launched on December 6th, 2023. Built on the 5 nm process, and based on the Aqua Vanjaram graphics processor, the card does not support DirectX. Since Radeon Instinct MI300X does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The Aqua Vanjaram graphics processor is a large chip with a die area of 1017 mm² and 153,000 million transistors. It features 19456 shading units, 1216 texture mapping units, and 0 ROPs. Also included are 1216 tensor cores which help improve the speed of machine learning applications. AMD has paired 192 GB HBM3 memory with the Radeon Instinct MI300X, which are connected using a 8192-bit memory interface. The GPU is operating at a frequency of 1000 MHz, which can be boosted up to 2100 MHz, memory is running at 2525 MHz.
Contents:
Memory ML Performance Compute Power Architecture & Compatibility ML Software Support Clocks & Performance Power Consumption Rendering Benchmarks AdditionalMemory
Memory Size
Memory Type
Memory Bandwidth
Memory Bus Width
ML Performance
FP16 (Half Precision)
BF16 (Brain Float)
TF32 (TensorFloat)
Compute Power
FP32 (Single Precision)
FP64 (Double Precision)
CUDA Cores
RT Cores
Architecture & Compatibility
GPU Architecture
SM (Streaming Multiprocessor)
PCIe Version
ML Software Support
CUDA Version
Clocks & Performance
Base Clock
Boost Clock
Memory Clock
Power Consumption
TDP/TGP
Recommended PSU
Power Connector
Benchmarks
MLPerf, llama2-70b-99.9 (UNSET)
MLPerf, llama2-70b-99.9 (fp16)
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, llama3.1-405b (UNSET)
MLPerf, llama3.1-405b (fp16)
llama.cpp, llama-2-7b-Q4_0
MLPerf, mixtral-8x7b (fp8)
Additional
Slots
Release Date
Display Outputs
FAQ
Видеокарта AMD Radeon Instinct MI300X предназначена для вычислений в области машинного обучения и искусственного интеллекта (ML/AI), научных вычислений, рендеринга и других высокопроизводительных задач. Она также может быть полезна для гейминга высоких разрешений и частот, хотя для этого она не оптимизирована.
Конкурентом для AMD Radeon Instinct MI300X могут быть NVIDIA A100 и H100, так как они также предназначены для вычислений в области ML/AI. AMD Radeon Instinct MI300X отличается более высокой пропускной способностью памяти (10.3 TB/s) по сравнению с NVIDIA A100 (7.7 TB/s), но NVIDIA H100 предлагает еще большую пропускную способность (1.2 PB/s). Кроме того, MI300X имеет более высокое количество ядер (19456 против 8000 в A100 и 62000 в H100).
Видеокарта AMD Radeon Instinct MI300X потребляет 750 Вт, что требует мощного блока питания. Для охлаждения требуется эффективная система жидкостного охлаждения или сильный воздушный радиатор. Убедитесь, что ваш блок питания и система охлаждения способны справиться с такими нагрузками.
В 2025-2026 годах ситуация на рынке может значительно измениться. AMD Radeon Instinct MI300X является современной моделью и будет актуальной до тех пор, пока новые модели не вытеснят ее. Однако стоит учесть, что технологии продолжают развиваться, и новые видеокарты могут предложить более высокие производственные характеристики. Рекомендуется следить за новыми анонсами и оценками производительности.
Видеокарта AMD Radeon Instinct MI300X поддерживает PCIe 5.0. Она потребляет 750 Вт, поэтому вам потребуется блок питания с достаточной мощностью и с поддержкой PCIe 5.0. Корпус должен иметь достаточное количество пространства для установки такой большой видеокарты и эффективную систему охлаждения. Также убедитесь, что ваш процессор и материнская плата поддерживают PCIe 5.0.
Recommendations
Эта видеокарта отлично подходит для задач глубокого обучения и искусственного интеллекта благодаря своей мощной архитектуре CDNA 3.0 и высокому объему памяти. Также она эффективна для вычислительных задач и научных расчетов из-за больших вычислительных ресурсов.
Renting is cheaper than buying
H100 80Gb SXM (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3 в форм-факторе SXM. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
from 299.11 RUB/hour
