Быстрый старт: от оплаты до первой задачи на GPU

Это руководство проведёт вас от выданного сервера до работающей задачи на GPU. Предполагается, что в консоли сервер отображается как готовый: его IP-адрес и SSH-команда указаны на странице сервера.

1. Выберите способ входа

На шаге «Доступ» при развёртывании можно выбрать пароль root — сгенерированный или свой, — SSH-ключ или и то и другое. Пароль хешируется в вашем браузере и никогда не попадает к нам; после пяти неверных попыток адрес блокируется на час. Если оставить только ключ, вход по паролю будет отключён — это самый безопасный вариант. Добавленные ключи хранятся в разделе SSH-ключи консоли. Как создать ключ:

ssh-keygen -t ed25519 -C "laptop"
cat ~/.ssh/id_ed25519.pub

2. Подключение

ssh root@203.0.113.10

С паролем ssh запросит его; с ключом вы войдёте сразу. Вы — root на выделенной машине: заведите для команды личные учётные записи командой adduser и добавьте их ключи в ~/.ssh/authorized_keys.

3. Проверка GPU

На серверах NVIDIA:

nvidia-smi                      # GPUs, memory, driver and CUDA version
nvidia-smi topo -m              # NVLink / PCIe topology between GPUs
nvidia-smi nvlink --status      # per-link NVLink state

На серверах AMD Instinct:

rocm-smi                        # GPUs, memory and utilisation
rocm-smi --showtopo             # Infinity Fabric topology
amd-smi list                    # detailed device list

На сервере SXM или OAM с 8 GPU каждая пара GPU в матрице топологии должна быть связана через NVLink (NV) или XGMI.

4. Запуск первой задачи

В шаблоне PyTorch и в шаблонах на его основе уже есть драйверы и PyTorch. Проверьте, что PyTorch видит все GPU:

python3 -c "import torch; print(torch.cuda.device_count(), torch.cuda.get_device_name(0))"

Предпочитаете контейнеры? Docker и среда выполнения контейнеров с поддержкой GPU уже установлены:

# NVIDIA
docker run --rm --gpus all nvidia/cuda:13.0.0-base-ubuntu24.04 nvidia-smi

# AMD
docker run --rm --device=/dev/kfd --device=/dev/dri --group-add video \
  rocm/pytorch:latest python -c "import torch; print(torch.cuda.device_count())"

Выбрали шаблон с веб-приложением или API — например, JupyterLab, ComfyUI или vLLM? Он слушает localhost сервера: откройте SSH-туннель, а затем страницу в браузере. Точная команда — на странице сервера; подробнее в разделе «Шаблоны».

ssh -N -L 8888:localhost:8888 root@203.0.113.10
# then open http://localhost:8888

5. Тест интерконнекта

Перед долгим запуском измерьте пропускную способность коллективных операций тестами NCCL (на AMD — тестами RCCL):

git clone https://github.com/NVIDIA/nccl-tests.git && cd nccl-tests
make -j
./build/all_reduce_perf -b 8 -e 8G -f 2 -g 8

Пропускная способность шины на больших сообщениях должна приближаться к значениям NVLink, указанным на страницах GPU. Стресс-тест и проверки работоспособности подробно описаны в нашем руководстве Как проверить новый сервер с 8 GPU.

6. Хранение данных и чекпоинтов

На каждом сервере есть локальное NVMe-хранилище для временных данных. Оно быстрое и доступно только вашему серверу, но стирается при возврате сервера: скопируйте нужные чекпоинты в собственное объектное хранилище до конца оплаченного месяца.

7. Продление или остановка

Серверы продлеваются ежемесячно с баланса. Чтобы остановить сервер в конце месяца, отключите автопродление на его странице; подробнее — в разделе Оплата.