Виртуальная инфраструктура с GPU

Облачные серверы с GPU чаще всего применяются для:

• обучения и инференса нейросетей
• машинного обучения и разработки ИИ-моделей
• анализа больших данных
• компьютерного зрения и обработки изображений
• 3D-рендеринга и визуализации
• научного моделирования и HPC-вычислений

Использование GPU позволяет значительно сократить время обработки данных и обучения моделей.

В облачной инфраструктуре MWS доступны современные графические ускорители:

• V100 — для задач машинного обучения и анализа данных
• A40 — для графики, визуализации и вычислений
• A100 — для обучения крупных моделей искусственного интеллекта
• H100 — для задач генеративного ИИ и высокопроизводительных вычислений
• H200 — для сверхмасштабных ИИ-проектов и работы с большими контекстами

Вы можете выбрать конфигурацию с несколькими GPU на одном сервере.

Стоимость аренды GPU-сервера зависит от модели видеокарты, количества GPU и конфигурации виртуальной машины. В MWS доступны два варианта оплаты:

• почасовая оплата за фактически использованные ресурсы
• фиксированная стоимость при аренде ресурсов на выбранный период

Также доступен тест-драйв, чтобы оценить производительность инфраструктуры перед запуском проекта.

Виртуальный сервер можно развернуть за несколько минут через личный кабинет MWS. Подключение GPU зависит от выбранной конфигурации и доступности ресурсов и может занять от 30 минут до нескольких часов (в отдельных случаях — дольше).

Для GPU-серверов в облаке MWS доступны популярные операционные системы:

• Ubuntu
• Debian
• CentOS и другие дистрибутивы Linux
• Windows Server

Вы можете использовать готовые образы или установить собственную операционную систему.

Облачные GPU-серверы поддерживают основные инструменты для разработки AI-решений:

• TensorFlow
• PyTorch
• Keras
• CUDA и cuDNN
• RAPIDS
• Jupyter Notebook

JAX, scikit-learn, XGBoost, LightGBM, CatBoost, FastAI, MXNet, PaddlePaddle, Auto-Sklearn, H2O, AutoKeras, TPOT, ONNX Runtime, TensorRT.

Ограничения: V100 требует старых версий (PyTorch 1.13–2.0); H100/H200 дают максимум на TensorRT-LLM и FP8.

Это позволяет быстро развернуть среду для разработки и обучения моделей машинного обучения.

Да. Облачная инфраструктура MWS позволяет быстро масштабировать вычислительные ресурсы: увеличивать количество GPU, производить переход на другие GPU карты, процессорных ядер, оперативной памяти и дискового пространства. Это удобно для проектов, где вычислительная нагрузка может расти со временем.

GPU-серверы в облаке можно масштабировать горизонтально (добавление узлов/карт) и вертикально (увеличение мощности в одном инстансе).