Сравнение GPU
MI300X vs H200: характеристики, цена в месяц и что выбрать
У MI300X — 192 ГБ HBM3 с пропускной способностью 5,3 ТБ/с против 141 ГБ и 4,8 ТБ/с у H200, а также 2,6 PF в FP8 (dense) против 1,98 PF, при цене в месяц примерно на 35% ниже. H200 выигрывает, если вы зависите от ядер только под CUDA, TensorRT-LLM или рецептов, оптимизированных под Hopper; для инференса и дообучения больших моделей на ROCm MI300X даёт больше памяти и вычислительной мощности на каждый доллар.
- Обновлено 4 нояб. 2026 г.
- Характеристики: даташиты производителей, производительность тензорных ядер (dense)
- Цены: актуальный каталог CoreGPU
| Характеристика | AMD Instinct MI300X | NVIDIA H200 SXM |
|---|---|---|
| Архитектура | CDNA 3 | Hopper |
| Память GPU | 192 ГБ HBM3 | 141 ГБ HBM3e |
| Пропускная способность памяти | 5,3 ТБ/с | 4,8 ТБ/с |
| FP8 (dense) | 2,6 PF | 1,98 PF |
| FP4 (dense) | n/a | n/a |
| Интерконнект | Infinity Fabric · 896 ГБ/с | NVLink 4 · 900 ГБ/с |
| Энергопотребление (TDP) | 750 Вт | 700 Вт |
| Цена за GPU / мес. | $1 749 | $2 699 |
| Цена за ГБ памяти | $9,11 | $19,14 |
| Цена за PFLOPS FP8 | $673 | $1 363 |
| Наличие | В наличии: 41 | В наличии: 34 |
Зелёным отмечено лучшее значение в каждой строке. Цены указаны за GPU в месяц в CoreGPU — как минимум на 25% ниже рыночной медианы.
- Инференс моделей от 70B до 180B на меньшем числе GPU
- Декодирование, ограниченное памятью, на 5,3 ТБ/с
- Стеки на ROCm: PyTorch, vLLM, SGLang
- Ядра только под CUDA и TensorRT-LLM
- Рецепты, настроенные под Hopper
- Команды, чей стандарт — инструменты NVIDIA
MI300X vs H200: цена в месяц в зависимости от размера сервера
| Сервер | MI300X | H200 | Разница |
|---|---|---|---|
| 1 GPU | $1 749/мес. | $2 699/мес. | MI300X дешевле на $950 |
| 2 GPU | $3 498/мес. | $5 398/мес. | MI300X дешевле на $1 900 |
| 4 GPU | $6 996/мес. | $10 796/мес. | MI300X дешевле на $3 800 |
| 8 GPU | $13 992/мес. | $21 592/мес. | MI300X дешевле на $7 600 |
Фиксированная цена за GPU в месяц, одинаковая для серверов любого размера. В USD, без учёта налогов.
Самая крупная модель, которая помещается в память GPU
| Веса | 1× MI300X | 1× H200 | 8× MI300X | 8× H200 |
|---|---|---|---|---|
| BF16 | 80B | 58B | 640B | 470B |
| FP8 | 160B | 117B | 1,3T | 940B |
| FP4 | 320B | 235B | 2,6T | 1,9T |
Число параметров, веса которых помещаются в память с запасом 20% на активации и среду выполнения. Длинному контексту и большим батчам нужно больше места под KV-кэш: см. гайд «Сколько памяти GPU вам нужно».
Другие сравнения GPU
MI300X vs H200: частые вопросы
Уже клиент? Создайте обращение в консоли: инженеры отвечают в течение одного рабочего дня.
Как работает поддержкаMI300X быстрее, чем H200?
По производительности FP8 (dense) на тензорных ядрах быстрее MI300X: 2,6 PF против 1,98 PF на GPU. Пропускная способность памяти — 5,3 ТБ/с у MI300X и 4,8 ТБ/с у H200; именно она важнее всего для декодирования LLM.
Сколько стоит MI300X в месяц по сравнению с H200?
В CoreGPU MI300X стоит $1 749, а H200 — $2 699 за GPU в месяц, так что сервер на 8 GPU обходится в $13 992 или $21 592 в месяц соответственно. MI300X дешевле на 35% за GPU. Цены на оба как минимум на 25% ниже рыночной медианы, оплата списывается помесячно с предоплаченного баланса.
Что лучше для инференса LLM: MI300X или H200?
Для крупных моделей и длинного контекста преимущество у MI300X: 192 ГБ памяти на GPU, так что модели нужно меньше GPU. Выбирайте MI300X, чтобы обслуживать модели от 70B до 180B на меньшем числе GPU, а H200 — для ядер только под CUDA и TensorRT-LLM.
Можно ли арендовать MI300X и H200 помесячно?
Да. Оба — выделенные GPU с помесячной арендой, от 1 до 8 GPU на сервер, с root-доступом по SSH. Сейчас MI300X — в наличии (доступно 41 GPU), а H200 — в наличии (доступно 34 GPU). Оплата принимается в BTC, ETH, XMR, USDT (TRC-20) или SOL.