Выделенный GPU-сервер — это физический сервер, GPU которого зарезервированы за одним клиентом. Никто другой не пользуется ими совместно, не разбивает их на разделы и не делит по времени: вам достаются вся их память, вся пропускная способность интерконнекта и root-доступ к операционной системе — обычно по фиксированной цене в месяц. Это противоположность аренде доли GPU или почасового инстанса на общем облачном хосте.
Выделенный сервер, облачный инстанс, доля GPU или маркетплейс
GPU-мощности продаются четырьмя основными способами. Они различаются тем, что именно принадлежит вам, и тем, как начисляется оплата.
| Модель | Что принадлежит вам | Обычная тарификация | Лучше всего для |
|---|---|---|---|
| Выделенный GPU-сервер | GPU целиком и сервер, в котором они стоят, с root-доступом | Помесячно или дольше | Обучение, дообучение, инференс 24/7 |
| Облачный GPU-инстанс | GPU целиком, проброшенные в виртуальную машину; хост и его сеть могут быть общими | Почасово или посекундно | Эластичные нагрузки, короткие эксперименты |
| Доля GPU | Раздел (например, NVIDIA MIG) или квант времени одного GPU | Почасово | Ноутбуки, небольшие модели, разработка |
| GPU-маркетплейс | Машина стороннего хостера с непостоянным железом и доступностью | Почасово, часто с прерываниями | Дешёвые перезапускаемые задачи |
Что на практике значит «выделенный»
- Предсказуемая производительность. Никакой другой арендатор не конкурирует за GPU, их пропускную способность памяти или связи между ними, поэтому бенчмарк, снятый в первый день, остаётся верным и на тридцатый.
- Весь интерконнект. На сервере NVIDIA HGX или AMD Instinct с 8 GPU каждый GPU связан с остальными через NVLink или Infinity Fabric. Тензорный и конвейерный параллелизм зависят от этой пропускной способности; разделённый GPU или конфигурация только с PCIe её не обеспечат.
- Контроль над программным стеком. С root-доступом вы сами выбираете ОС, драйвер, версию CUDA или ROCm и среду выполнения контейнеров, а также можете устанавливать профилировщики и собственные ядра.
- Изоляция данных. Модели и датасеты хранятся на локальных дисках, которыми пользуется только ваш сервер. Серьёзный провайдер стирает их при смене клиента.
- Фиксированные расходы. Цена в месяц превращает траты на GPU в известную строку бюджета, и никакой счётчик не крутится, пока задача на паузе.
Bare metal или виртуальная машина?
Выделенный сервер может предоставляться как bare metal или как виртуальная машина для одного клиента с проброшенными GPU. Для вычислений на GPU разница в производительности невелика: работу в любом случае выполняют GPU. Отличается контроль: на bare metal вы сами управляете ядром, драйверами и настройками на уровне прошивки; на виртуальной машине гипервизор, а иногда и версию драйвера контролирует провайдер. Если вы полагаетесь на определённые модули ядра, инструменты топологии GPU или низкоуровневое профилирование, уточните, какой вариант вы получите.
Что проверить перед арендой
- Модель GPU и память. У GPU с HBM (H100, H200, B200, B300 и AMD Instinct) пропускная способность памяти от 3,35 до 8 ТБ/с; у карт с GDDR (L40S, RTX PRO 6000) — от 0,86 до 1,6 ТБ/с, и они лучше подходят для инференса и графики, чем для крупных задач обучения. Память определяет, какую самую большую модель можно загрузить: см. сколько памяти GPU вам нужно.
- Интерконнект. GPU в форм-факторе SXM и OAM на плате с 8 GPU связаны через NVLink или Infinity Fabric со скоростью от 0,9 до 1,8 ТБ/с на GPU. PCIe-карты обмениваются данными по PCIe: для одной модели на GPU этого достаточно, для обучения на нескольких GPU — медленнее.
- CPU хоста, RAM и локальный NVMe. Загрузка данных, токенизация и чекпоинты выполняются на хосте. Уточните число ядер CPU, объём системной памяти и ёмкость NVMe в расчёте на GPU.
- Сеть. Проверьте пропускную способность, включён ли трафик и выдаётся ли публичный IPv4-адрес для SSH и обслуживания запросов.
- Образы и драйверы. Готовый образ с CUDA или ROCm, PyTorch и vLLM экономит первый час на каждом новом сервере.
- Оплата и обязательства. Смотрите на цену за GPU в месяц, на то, что происходит при продлении, и на то, можно ли остановиться в конце любого месяца.
- Поддержка и безопасность. Кто отвечает, когда GPU выходит из строя, как быстро меняют железо и как стирают диски между клиентами.
Перед долгим запуском проверьте полученный сервер: чек-лист для сервера с 8 GPU охватывает состояние GPU, топологию, пропускную способность коллективных операций и короткий стресс-тест.
Сколько стоит выделенный GPU-сервер?
Цены на выделенные GPU-серверы обычно указываются за GPU в месяц. Цены CoreGPU рядом с рыночной медианой (прайсовая цена по запросу у специализированных GPU-облаков в пересчёте на 730 часов):
| GPU | Память | За GPU / месяц | Сервер на 8 GPU / месяц | Рыночная медиана / GPU |
|---|---|---|---|---|
| NVIDIA B300 | 288 ГБ HBM3e | $4 899 | $39 192 | $6 552 |
| NVIDIA B200 | 180 ГБ HBM3e | $4 449 | $35 592 | $5 979 |
| AMD MI355X | 288 ГБ HBM3E | $2 449 | $19 592 | $3 285 |
| AMD MI350X | 288 ГБ HBM3E | $2 249 | $17 992 | $3 022 |
| NVIDIA H200 | 141 ГБ HBM3e | $2 699 | $21 592 | $3 606 |
| AMD MI325X | 256 ГБ HBM3E | $2 299 | $18 392 | $3 071 |
| AMD MI300X | 192 ГБ HBM3 | $1 749 | $13 992 | $2 351 |
| NVIDIA H100 | 80 ГБ HBM3 | $1 999 | $15 992 | $2 716 |
| NVIDIA RTX PRO 6000 | 96 ГБ GDDR7 | $1 199 | $9 592 | $1 599 |
| NVIDIA L40S | 48 ГБ GDDR6 | $849 | $6 792 | $1 146 |
В USD, без налогов. Цены проверены 4 нояб. 2026 г.; актуальные цены и наличие — на странице цен.
Помесячная оплата выгоднее почасовой, если вы держите GPU дольше, чем примерно 540 часов в месяц, то есть около 18 часов в день. Полный расчёт — в статье почасовая или помесячная аренда GPU.
Когда выделенный GPU-сервер — правильный выбор
- Обучение или дообучение, которое длится днями или неделями.
- Инференс, который должен работать круглосуточно со стабильной задержкой.
- Задачи, которым нужна вся пропускная способность NVLink или Infinity Fabric узла с 8 GPU.
- Чувствительные модели или данные, которым не место на общих хостах.
- Заранее зафиксированные бюджеты — например, исследовательский грант или финансовый запас стартапа.
Когда нет
Для нескольких часов тестов, разового бенчмарка или ноутбука с небольшой моделью дешевле обойдётся почасовой инстанс или доля GPU. Выделенный сервер окупается, когда GPU заняты большую часть месяца.
Выделенные GPU-серверы в CoreGPU
CoreGPU сдаёт в помесячную аренду выделенные GPU-серверы NVIDIA и AMD с 1–8 GPU минимум на 25% ниже рыночной медианы — с root-доступом по SSH, локальным NVMe и готовыми образами CUDA или ROCm. Оплата — с предоплаченного баланса в BTC, ETH, XMR, USDT (TRC-20) или SOL. Посмотрите все GPU с актуальным наличием или сравните два GPU бок о бок.
