Performance Rating
NVIDIA Tesla T4
Expert Comparison
Intel Arc Graphics 24EU лучше по энергоэффективности и более новая архитектура Xe2-LPG, что обеспечивает более высокую производительность в энергосберегающем режиме. NVIDIA Tesla T4 же предлагает значительно большее количество ядер (2560 против 192), больше памяти (16 ГБ GDDR6) и более высокую пропускную способность (320.0 GB/s), что делает его предпочтительным для вычислительных задач и обработки больших данных.
Contents:
Memory ML Performance Compute Power Architecture & Compatibility ML Software Support Clocks & Performance Power Consumption Rendering Benchmarks AdditionalMemory
Memory Size
Memory Type
Memory Bandwidth
Memory Bus Width
ML Performance
FP16 (Half Precision)
1.536
TFLOPS
BF16 (Brain Float)
TF32 (TensorFloat)
Compute Power
FP32 (Single Precision)
+9,334%
768.0
TFLOPS
FP64 (Double Precision)
CUDA Cores
192
RT Cores
Architecture & Compatibility
GPU Architecture
SM (Streaming Multiprocessor)
PCIe Version
ML Software Support
CUDA Version
Clocks & Performance
Base Clock
300
Boost Clock
+26%
2,000
Memory Clock
Power Consumption
TDP/TGP
-7%
65 W
Recommended PSU
Power Connector
Rendering
Texture Units (TMU)
12
ROP
L2 Cache
Benchmarks
LLM Perf, Llama-2-7b-hf (bnb)
LLM Perf, Llama-2-7b-hf (gptq)
LLM Perf, Llama-2-7b-hf (unquantized)
LLM Perf, Llama-3.1-8B-Instruct (awq)
LLM Perf, Llama-3.1-8B-Instruct (bnb)
LLM Perf, Llama-3.1-8B-Instruct (gptq)
LLM Perf, Meta-Llama-3-8B (awq)
LLM Perf, Meta-Llama-3-8B (bnb)
LLM Perf, Meta-Llama-3-8B (gptq)
LLM Perf, Meta-Llama-3-8B-Instruct (awq)
LLM Perf, Meta-Llama-3-8B-Instruct (bnb)
LLM Perf, Meta-Llama-3-8B-Instruct (gptq)
llama.cpp, llama-2-7b-Q4_0
LLM Perf, Mistral-7B-Instruct-v0.2 (gptq)
LLM Perf, Mistral-7B-v0.1 (bnb)
LLM Perf, Mistral-7B-v0.1 (gptq)
LLM Perf, Mistral-7B-v0.1 (unquantized)
Additional
Slots
Release Date
Display Outputs
Renting is cheaper than buying
H100 80Gb SXM (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3 в форм-факторе SXM. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
from 299.11 RUB/hour
