Работа с моделями
Последнее обновление
GPT Model Hub предоставляет OpenAI-совместимый API для обращения к развернутым моделям. Сервис поддерживает несколько типов моделей, у каждого типа свой эндпоинт и формат запроса.
Для работы с API используется общий базовый URL:
Авторизация выполняется API-ключом сервисного аккаунта с ролью gpt.inferencer:
Типы моделей
- Текстовые модели — чат-модели и модели эмбеддингов.
- Responses API — современный API для работы с языковыми моделями с поддержкой управления состоянием диалога. Находится на стадии готовности Preview.
- Аудио-модели (ASR/TTS) — распознавание и синтез речи.
- Reranker-модели — пересортировка документов по релевантности запросу.
Список всех поддерживаемых моделей и их возможности приведены в разделе Доступные модели.