4× MI300X768 ГБ HBM3 · CDNA 3
768 ГБ HBM3 для моделей класса 405B в FP8.
$6 996 /мес.В наличии: 41
Настроить
Решения · Инференс
GPU-серверы для инференса LLM с предсказуемой стоимостью.
Фиксированная цена в месяц превращает инференс в постоянную статью расходов: никаких неожиданных счетов при всплесках трафика. Подбирайте сервер под модель — от L40S для небольших моделей до B300 для инференса в FP4.
- Серверы от $1 199/мес.
- Минимум на 25% ниже рынка
- Root-доступ за < 60 с
Проблема
Что тормозит команды сегодня
Скачущие счета
При почасовой и потокенной оплате ежемесячные расходы на инференс трудно прогнозировать.
Избыточные GPU
Флагманский GPU для модели на 13B — это впустую сожжённый бюджет.
Холодные старты и квоты
Автомасштабирование в общих облаках добавляет задержку и риск нехватки мощностей.
Чем поможет CoreGPU
Выделенные GPU, цена в месяц, никаких сюрпризов
Каждый сервер ещё до продажи установлен в стойку, протестирован и подготовлен с образом, поэтому root-доступ вы получаете меньше чем за минуту, а сумму счёта знаете заранее.
- Выделенные GPU, которые весь месяц остаются «прогретыми»
- Конфигурации под задачу: от 48 ГБ до 288 ГБ на GPU
- Шаблоны vLLM, SGLang, Ollama и Triton
- Масштабируйтесь, добавляя серверы при каждом продлении
Рекомендуемые серверы
Конфигурации, которые рекомендуют наши инженеры
Наличие в реальном времени и цена всего сервера в месяц. Откройте страницу GPU, чтобы настроить конфигурацию.
4× H100320 ГБ HBM3 · Hopper
320 ГБ HBM3 для моделей класса 70B на vLLM.
$7 996 /мес.Осталось всего 3
Настроить
1× RTX PRO 600096 ГБ GDDR7 · Blackwell
96 ГБ GDDR7 с FP4 — самый дешёвый способ запустить инференс моделей до ~70B.
$1 199 /мес.В наличии: 52
Настроить
Частые вопросы
Масштабный инференс: частые вопросы
Уже клиент? Создайте обращение в консоли: инженеры отвечают в течение одного рабочего дня.
Как работает поддержкаКакой GPU даёт самую низкую стоимость токена?
Если модель помещается в память, стоимость декодирования определяется пропускной способностью памяти в расчёте на доллар. MI300X и H200 сильны на моделях 70B–405B; для моделей поменьше выгоднее RTX PRO 6000 и L40S.
Можно ли запускать несколько моделей на одном сервере?
Да. С root-доступом вы можете распределить GPU между моделями или использовать MIG на RTX PRO 6000, чтобы разделить арендованную карту на изолированные части.
Взимается ли плата за трафик?
Сетевой трафик включён в цену в месяц в рамках нашей политики допустимого использования.
Другие решения
Подберите конфигурацию за минуту
Выберите GPU и размер сервера: итоговая сумма в месяц и ваша экономия относительно рынка пересчитываются мгновенно.