Сравнение GPU
MI300X vs H100: характеристики, цена в месяц и что выбрать
У MI300X в 2,4 раза больше памяти, чем у H100 (192 против 80 ГБ), выше пропускная способность и производительность FP8 (dense) — при более низкой цене в месяц. H100 выигрывает, если вы зависите от библиотек только под CUDA или от рецептов, настроенных под Hopper; для инференса крупных моделей на ROCm экономичный выбор — MI300X.
- Обновлено 4 нояб. 2026 г.
- Характеристики: даташиты производителей, производительность тензорных ядер (dense)
- Цены: актуальный каталог CoreGPU
| Характеристика | AMD Instinct MI300X | NVIDIA H100 SXM |
|---|---|---|
| Архитектура | CDNA 3 | Hopper |
| Память GPU | 192 ГБ HBM3 | 80 ГБ HBM3 |
| Пропускная способность памяти | 5,3 ТБ/с | 3,35 ТБ/с |
| FP8 (dense) | 2,6 PF | 1,98 PF |
| FP4 (dense) | n/a | n/a |
| Интерконнект | Infinity Fabric · 896 ГБ/с | NVLink 4 · 900 ГБ/с |
| Энергопотребление (TDP) | 750 Вт | 700 Вт |
| Цена за GPU / мес. | $1 749 | $1 999 |
| Цена за ГБ памяти | $9,11 | $24,99 |
| Цена за PFLOPS FP8 | $673 | $1 010 |
| Наличие | В наличии: 41 | Осталось всего 3 |
Зелёным отмечено лучшее значение в каждой строке. Цены указаны за GPU в месяц в CoreGPU — как минимум на 25% ниже рыночной медианы.
- Инференс моделей 70B–405B на меньшем числе GPU
- Декодирование, упирающееся в память
- Самая низкая цена в месяц среди GPU с HBM
- Ядра и библиотеки только под CUDA
- Рецепты, настроенные под Hopper
- Смешанные задачи: обучение и разработка
MI300X vs H100: цена в месяц в зависимости от размера сервера
| Сервер | MI300X | H100 | Разница |
|---|---|---|---|
| 1 GPU | $1 749/мес. | $1 999/мес. | MI300X дешевле на $250 |
| 2 GPU | $3 498/мес. | $3 998/мес. | MI300X дешевле на $500 |
| 4 GPU | $6 996/мес. | $7 996/мес. | MI300X дешевле на $1 000 |
| 8 GPU | $13 992/мес. | $15 992/мес. | MI300X дешевле на $2 000 |
Фиксированная цена за GPU в месяц, одинаковая для серверов любого размера. В USD, без учёта налогов.
Самая крупная модель, которая помещается в память GPU
| Веса | 1× MI300X | 1× H100 | 8× MI300X | 8× H100 |
|---|---|---|---|---|
| BF16 | 80B | 33B | 640B | 266B |
| FP8 | 160B | 66B | 1,3T | 533B |
| FP4 | 320B | 133B | 2,6T | 1,1T |
Число параметров, веса которых помещаются в память с запасом 20% на активации и среду выполнения. Длинному контексту и большим батчам нужно больше места под KV-кэш: см. гайд «Сколько памяти GPU вам нужно».
Другие сравнения GPU
MI300X vs H100: частые вопросы
Уже клиент? Создайте обращение в консоли: инженеры отвечают в течение одного рабочего дня.
Как работает поддержкаMI300X быстрее, чем H100?
По производительности FP8 (dense) на тензорных ядрах быстрее MI300X: 2,6 PF против 1,98 PF на GPU. Пропускная способность памяти — 5,3 ТБ/с у MI300X и 3,35 ТБ/с у H100; именно она важнее всего для декодирования LLM.
Сколько стоит MI300X в месяц по сравнению с H100?
В CoreGPU MI300X стоит $1 749, а H100 — $1 999 за GPU в месяц, так что сервер на 8 GPU обходится в $13 992 или $15 992 в месяц соответственно. MI300X дешевле на 13% за GPU. Цены на оба как минимум на 25% ниже рыночной медианы, оплата списывается помесячно с предоплаченного баланса.
Что лучше для инференса LLM: MI300X или H100?
Для крупных моделей и длинного контекста преимущество у MI300X: 192 ГБ памяти на GPU, так что модели нужно меньше GPU. Выбирайте MI300X, чтобы обслуживать модели 70B–405B на меньшем числе GPU, а H100 — для ядер и библиотек только под CUDA.
Можно ли арендовать MI300X и H100 помесячно?
Да. Оба — выделенные GPU с помесячной арендой, от 1 до 8 GPU на сервер, с root-доступом по SSH. Сейчас MI300X — в наличии (доступно 41 GPU), а H100 — почти распродан (осталось всего 3). Оплата принимается в BTC, ETH, XMR, USDT (TRC-20) или SOL.