Мало в наличии

NVIDIA HGX B300: осталось всего 9 GPU по $4 899/⁠мес. — на 25% ниже рынка.Осталось всего 9 B300 по $4 899/⁠мес.

Настроить B300

Решения · Дообучение

GPU для дообучения LLM: модели 70B+ без борьбы за память.

LoRA, QLoRA и полное дообучение требуют места для весов, состояний оптимизатора и длинных последовательностей. Арендуйте на месяц столько памяти, сколько нужно: от 141 ГБ до 288 ГБ на GPU.

  • Серверы от $8 996/мес.
  • Минимум на 25% ниже рынка
  • Root-доступ за < 60 с
Проблема

Что тормозит команды сегодня

01

Бесконечные ошибки OOM

Урезание батчей и длины последовательностей, чтобы уместиться в 80 ГБ, отнимает дни инженерного времени.

02

Оплата простоя

Дообучение — итеративный процесс: при почасовой оплате каждая пауза между экспериментами стоит денег.

03

Неочевидный выбор GPU

Для большинства задач дообучения память, пропускная способность и цена за ГБ важнее пиковых FLOPS.

Чем поможет CoreGPU

Выделенные GPU, цена в месяц, никаких сюрпризов

Каждый сервер ещё до продажи установлен в стойку, протестирован и подготовлен с образом, поэтому root-доступ вы получаете меньше чем за минуту, а сумму счёта знаете заранее.

  • От 141 ГБ (H200) до 288 ГБ (MI350X, B300) на GPU
  • Шаблоны Axolotl, Unsloth, LLaMA-Factory и NeMo или чистый PyTorch
  • Сервер остаётся за вами между экспериментами: время простоя уже оплачено
  • Меняйте конфигурацию при продлении, если следующая модель больше
Рекомендуемые серверы

Конфигурации, которые рекомендуют наши инженеры

Наличие в реальном времени и цена всего сервера в месяц. Откройте страницу GPU, чтобы настроить конфигурацию.

Рекомендуем

8× H2001,13 ТБ HBM3e · Hopper

1,1 ТБ HBM3e и самая развитая экосистема CUDA.

$21 592 /мес.В наличии: 34
Настроить
Альтернатива

4× MI350X1,15 ТБ HBM3E · CDNA 4

1,15 ТБ HBM3E на четырёх GPU — больше всего памяти на каждый доллар.

$8 996 /мес.Осталось всего 6
Настроить
Альтернатива

4× B3001,15 ТБ HBM3e · Blackwell Ultra

Скорость Blackwell Ultra, когда горят сроки.

$19 596 /мес.Осталось всего 9
Настроить
Частые вопросы

Дообучение: частые вопросы

Уже клиент? Создайте обращение в консоли: инженеры отвечают в течение одного рабочего дня.

Как работает поддержка
Сколько памяти GPU нужно для дообучения модели 70B?

Полное дообучение в BF16 с оптимизатором Adam требует примерно 16 байт на параметр, то есть около 1,1 ТБ для 70B, — значит, нужен сервер 8× H200. Для LoRA или QLoRA хватает одного-двух GPU. См. наше руководство по памяти.

Можно ли использовать собственные контейнеры?

Да. У вас есть root-доступ: запускайте Docker, Podman или bare-metal-окружения с собственными драйверами, если так удобнее.

Изолированы ли мои обучающие данные?

Да. GPU и серверы выделены только вам, а локальные диски надёжно очищаются при смене клиента. См. раздел «Безопасность».

Другие решения

Подберите конфигурацию за минуту

Выберите GPU и размер сервера: итоговая сумма в месяц и ваша экономия относительно рынка пересчитываются мгновенно.

Esc
↑↓ выбор↵ открытьEsc закрыть