GPT Model Hub

MWS GPT Model Hub — облачный сервис для доступа к языковым, голосовым, эмбеддинг- и реранкер-моделям через единый API. Модели уже развёрнуты и готовы к инференсу — вам не нужно самостоятельно настраивать GPU‑инфраструктуру и обслуживать модели. Управление деплойментами моделей происходит в консоли управления облачной платформы MWS Cloud Platform.

В MWS GPT Model Hub доступны модели для генерации и анализа текста, работы с кодом и изображениями, семантического поиска, реранжирования результатов, распознавания и генерации речи.

Посмотреть полный список моделей можно в документации.

Выберите модель в консоли MWS Cloud Platform, создайте сервисный аккаунт и API-ключ. Подключение к модели осуществляется через OpenAI-совместимый API. Примеры запросов и инструкции по подключению доступны в документации.

Да. MWS GPT Model Hub поддерживает OpenAI-совместимый API, поэтому модели можно подключать к приложениям, бэкенд-сервисам и инструментам разработчика с помощью привычных клиентов и библиотек. Для подключения достаточно указать эндпоинт сервиса, API-ключ и ID выбранной модели.

В документации доступны инструкции для подключения популярных инструментов для создания ИИ-агентов и чата с LLM: расширения Cline для VS Code, Langflow и LibreChat.

Выбор зависит от задачи, формата входных данных и требований к качеству, скорости и стоимости. На этом лендинге модели сгруппированы по основным сценариям: работа с текстом и кодом, текстом и изображениями, RAG и поиском, речью и аудио.

Перед внедрением рекомендуем сравнить несколько моделей на собственных запросах и данных. Если вам нужна помощь с подбором моделей, вы можете оставить заявку на консультацию или обратиться в техническую поддержку.

Использование моделей в General Availability (общем доступе) оплачивается по фактическому потреблению: отдельно учитывается количество входящих и исходящих токенов. Стоимость зависит от выбранной модели.

Модели в режиме Preview не тарифицируются. Актуальные цены доступны в разделе «Тарификация» в документации.

Сервис предоставляет через консоль управления облачной платформой MWS Cloud Platform. Всем новым пользователям платформы доступен стартовый грант, который можно использовать для знакомства с MWS GPT Model Hub и другими сервисами платформы. Кроме того, модели в режиме «Preview» доступны без тарификации.

Для получения гранта следуйте инструкции на главном экране консоли управления после окончания регистрации.

Модели со статусом «Preview» доступны для тестирования новых сценариев и знакомства с их возможностями. Для них не предоставляется SLA, а использование не тарифицируется.

Для моделей действуют ограничения на количество запросов в минуту и количество входящих и исходящих токенов. Также действуют квоты и лимиты на количество деплойментов моделей в проекте. Квоты и лимиты можно изменить по запросу через обращение в техническую поддержку.

MWS GPT Model Hub не сохраняет запросы и ответы пользователей и не использует их для обучения моделей. Вычисления происходит внутри защищённого контура MWS Cloud.

Если вам нужна помощь с выбором модели, подключением API или настройкой лимитов, обратитесь в техническую поддержку MWS Cloud Platform. Если у вас есть вопрос к разработчикам сервиса — напишите нам в открытый чат Сообщества MWS Cloud Platform.