Работа с моделями

GPT Model Hub предоставляет OpenAI-совместимый API для обращения к развернутым моделям. Сервис поддерживает несколько типов моделей, у каждого типа свой эндпоинт и формат запроса.

Для работы с API используется общий базовый URL:

1
https://gpt.mwsapis.ru/projects/<имя проекта>/openai/v1

Авторизация выполняется API-ключом сервисного аккаунта с ролью gpt.inferencer:

1
Authorization: Bearer <API-ключ сервисного аккаунта sa-inferencer>

• Текстовые модели — чат-модели и модели эмбеддингов.
• Responses API — современный API для работы с языковыми моделями с поддержкой управления состоянием диалога. Находится на стадии готовности Preview.
• Аудио-модели (ASR/TTS) — распознавание и синтез речи.
• Reranker-модели — пересортировка документов по релевантности запросу.

Список всех поддерживаемых моделей и их возможности приведены в разделе Доступные модели.