Reranker-модели

Reranker-модели пересортировывают список документов по релевантности запросу. Используются в RAG-пайплайнах как второй шаг после первичного поиска (например, по эмбеддингам). Модель получает запрос и набор кандидатов, и возвращает тот же набор с оценками релевантности для каждого кандидата.

Для работы с API модели используют базовый URL:

Авторизация выполняется API-ключом сервисного аккаунта с ролью gpt.inferencer.

Поддерживаемые модели и их характеристики приведены в разделе Доступные модели.

Эндпоинт

Эндпоинт принимает запрос пользователя с набором документов:

Модель возвращает документы, упорядоченные по убыванию релевантности, вместе с оценкой relevance_score.

Параметры запроса

Параметр	Тип	Описание
`model`	`string`	Идентификатор деплоймента с Reranker-моделью
`query`	`string`	Запрос, относительно которого оценивается релевантность
`documents`	`array<string>`	Список документов-кандидатов. Максимальный суммарный объем зависит от контекстного окна модели
`top_n`	`integer`	(опционально) Вернуть только `top_n` наиболее релевантных документов. Если не указан, возвращаются все документы

Пример запроса

Пример ответа

В этом примере:

index — позиция документа в исходном массиве documents.
relevance_score — оценка релевантности документа запросу. Чем выше значение, тем релевантнее документ.

Документы в ответе уже отсортированы по убыванию relevance_score, поэтому для использования результата в RAG-пайплайне достаточно взять первые top_n элементов.