Перейти к содержимому

Создание виртуальной машины с GPU

ВМ с GPU можно создать только в зоне доступности ru-central1-a.

  • Веб-консоль
  • MWS CLI
  • Terraform
  • API
  1. Убедитесь, что в проекте хватает квот для создания ВМ с GPU. По умолчанию квота на ВМ с GPU равна 0. Другие квоты проекта, в том числе на общий объем RAM, также могут быть недостаточны для выбранного типа ВМ.

    Для увеличения квот обратитесь в техническую поддержку.

  2. Убедитесь, что у вас есть сеть и подсеть, где ВМ будет размещена. Если сети и подсети нет, создайте их.

  3. Убедитесь, что у вас есть пара SSH-ключей (публичный и приватный) для подключения к ВМ. Если пары SSH-ключей нет, создайте ее.

  4. В веб-консоли выберите нужный проект.

  5. В списке сервисов выберите Compute → Виртуальные машины и нажмите кнопку Создать.

  6. (опционально) Измените автоматически сгенерированное имя ВМ. Позже это имя (name) и созданный из него идентификатор (ID) нельзя изменить, меняется только отображаемое имя (display name) ВМ.

  7. Выберите зону доступности ru-central1-a.

  8. В блоке Конфигурация включите опцию Графический процессор (GPU).

  9. Выберите тип ВМ с GPU.

  10. (опционально) Настройте загрузочный диск.

    По умолчанию в качестве загрузочного диска будет создан зависимый сетевой диск из образа Ubuntu 24.04 GPU LTS из каталога MWS. Рекомендуется использовать этот образ: в нем предустановлены драйвер NVIDIA и агент передачи метрик GPU gpu-metrics-exporter.

    Чтобы изменить параметры загрузочного диска, нажмите на значок редактирования диска boot в блоке Диски. Загрузочным можно сделать зависимый или независимый диск.

    • Зависимый диск
    • Независимый диск
    1. В поле Присоединить как выберите Зависимый.

    2. (опционально) Измените источник для создания диска в блоке Источник:

      • Каталог образов — выберите GPU Optimized и версию операционной системы Ubuntu 24.04 GPU LTS.
      • Пользовательские образы — выберите подготовленный Linux-образ с установленными драйвером NVIDIA и агентом gpu-metrics-exporter. Образ должен соответствовать требованиям к Linux-образам.
      • Резервная копия — выберите резервную копию загрузочного диска с установленными ОС Linux, драйвером NVIDIA и агентом gpu-metrics-exporter.
    3. (опционально) Измените прочие параметры диска:

      • Имя — уникальное имя диска в рамках ВМ. Значение по умолчанию — boot. После создания его невозможно изменить.
      • Размер диска — размер диска в гигабайтах. После создания размер диска невозможно уменьшить.
      • IOPS — производительность диска в операциях ввода-вывода в секунду.
      • Параметры подключения → Device Name — автоматически сгенерированное имя диска, которое будет отображаться в /dev/disk/by-id/mws-* и использоваться для обращения к диску внутри ВМ. Позже его нельзя изменить.
    4. Нажмите кнопку Сохранить.

  11. (опционально) Добавьте дополнительные сетевые диски, нажав кнопку + Сетевой диск. Вы можете создать зависимый или подключить существующий независимый диск.

    Подключение локальных дисков к ВМ с GPU не поддерживается.

  12. Нажмите кнопку Далее.

  13. Задайте настройки сети для ВМ:

  14. Назначьте ВМ внутренний IP-адрес одним из предложенных способов:

    • Временный — IP-адрес выбирается автоматически из диапазона подсети.
    • Вручную — укажите IP-адрес из диапазона подсети.
    • Зарезервированный — выберите зарезервированный IP-адрес. Если IP-адрес еще не зарезервирован, зарезервируйте его.
    Примечание

    Если вы планируете использовать ВМ в качестве VPN-шлюза или маршрутизатора, нужно разрешить доставку на нее транзитного трафика, предназначенного для других узлов. Для этого включите опцию IP Forwarding.

  15. (опционально) Задайте настройки DNS для временного или указанного вручную IP-адреса:

    • FQDN — укажите такое же доменное имя, как для ВМ, если хотите, чтобы оно ассоциировалось с IP-адресом.
    • TTL — укажите время жизни DNS-записи в секундах, минутах или часах. Чем меньше значение, тем быстрее изменения распространятся в интернете, но тем чаще серверы будут вынуждены запрашивать данные повторно.
    • Задать обратную зону — включите опцию для создания PTR-записи. Это разрешит другим устройствам внутренней сети определять доменное имя вашей ВМ по ее IP-адресу.
  16. Назначьте ВМ внешний IP-адрес одним из предложенных способов:

    • Временный — назначается временный IP-адрес из пула провайдера.
    • Зарезервированный — выберите зарезервированный IP-адрес. Если IP-адрес еще не зарезервирован, зарезервируйте его.
    • Без адреса — внешний IP-адрес не назначается. Для подключения по SSH потребуется доступ к внутренней сети ВМ.
  17. (опционально) В блоке Доменное имя отредактируйте имя хоста и FQDN.

  18. Нажмите кнопку Далее.

  19. Нажмите кнопку Добавить публичный ключ.

  20. Скопируйте созданный ранее публичный SSH-ключ и вставьте его в соответствующее поле. Добавить ключ позже будет невозможно.

    Имя пользователя из публичного ключа будет автоматически вставлено в соответствующее поле.

    Нельзя добавлять ключи с именами пользователя admin или root — это приведет к ошибке.

  21. (опционально) Измените имя пользователя.

    • Имя должно начинаться со строчной латинской буквы или символа _.
    • Имя может содержать строчные латинские буквы, цифры, символы _ и -.
    • Имя может заканчиваться строчной латинской буквой, цифрой, символами _, - или $.
    • Максимальная длина — 32 символа.
  22. Нажмите кнопку Добавить. После этого публичный SSH-ключ будет добавлен в скрипт инициализации cloud-init в блоке Метаданные (атрибут user-data).

  23. (опционально) Укажите в cloud-init дополнительные настройки.

  24. (опционально) Добавьте дополнительный SSH-ключ, нажав кнопку Добавить публичный ключ повторно.

  25. (опционально) Чтобы ВМ могла работать с ресурсами облака, добавьте сервисный аккаунт. Вы можете добавить уже существующий аккаунт или создать новый.

  26. (опционально) В блоке Метаданные добавьте дополнительные ключи и значения метаданных (например, environment:prod, app: backend), нажав кнопку Добавить ключ-значение.

  27. Нажмите кнопку Далее.

  28. Проверьте настройки ВМ. При необходимости вернитесь к предыдущим шагам и откорректируйте настройки.

  29. (опционально) Выберите Включить машину после создания, чтобы сразу же приступить к работе с новой ВМ.

  30. Нажмите кнопку Создать. Дождитесь, когда ВМ будет добавлена в список на странице Compute → Виртуальные машины.

Важно

Убедитесь, что метрики GPU поступают на платформу. Если метрики не поступают, работа ВМ может быть остановлена.

Перед запуском задач с использованием GPU проверьте, что драйвер распознает GPU, а агент gpu-metrics-exporter запущен. Для проверки ВМ должна быть включена, драйвер NVIDIA и агент — установлены.

Агент должен передавать метрики до запуска GPU-задач и в течение всего срока использования ВМ с GPU.

  1. Проверьте, что драйвер распознает GPU:

    bash
    nvidia-smi

    В выводе должны отображаться GPU. Их количество должно соответствовать выбранному типу ВМ.

    Примечание

    Фактическая модель GPU может быть более производительной, чем базовая модель, указанная в веб-консоли. В этом случае название модели в выводе nvidia-smi будет отличаться.

    Для ВМ категории gpu-a100 интерфейс NVLink не активирован, а фактическая пропускная способность памяти может отличаться от базовой конфигурации в пределах 5%.

  2. Проверьте состояние агента метрик:

    bash
    systemctl status gpu-metrics-exporter

    В строке Active должно отображаться состояние active (running). Это означает, что агент запущен.

После успешной проверки можно запускать задачи с использованием GPU. Поступление метрик на платформу контролирует MWS.

Если GPU не отображаются, их количество не соответствует выбранному типу ВМ, команда nvidia-smi завершается с ошибкой или агент не находится в состоянии active (running), обратитесь в техническую поддержку. Приложите вывод команд nvidia-smi, systemctl status gpu-metrics-exporter и сообщения ядра, полученные командой:

bash
sudo dmesg | grep -Ei 'NVRM|Xid'
Важно

Если метрики GPU не поступают на платформу по причинам на вашей стороне, техническая поддержка направит уведомление по email. Устраните проблему в течение пяти рабочих дней с момента отправки уведомления, иначе работа этой ВМ будет приостановлена.