Reranker-модели

Reranker-модели пересортировывают список документов по релевантности запросу. Используются в RAG-пайплайнах как второй шаг после первичного поиска (например, по эмбеддингам). Модель получает запрос и набор кандидатов, и возвращает тот же набор с оценками релевантности для каждого кандидата.

Для работы с API модели используют базовый URL:

1
https://gpt.mwsapis.ru/projects/<имя проекта>/cohere/v2

Авторизация выполняется API-ключом сервисного аккаунта с ролью gpt.inferencer.

Поддерживаемые модели и их характеристики приведены в разделе Доступные модели.

Эндпоинт

Эндпоинт принимает запрос пользователя с набором документов:

1
POST https://gpt.mwsapis.ru/projects/<имя проекта>/cohere/v2/rerank

Модель возвращает документы, упорядоченные по убыванию релевантности, вместе с оценкой relevance_score.

Параметры запроса

Параметр	Тип	Описание
`model`	`string`	Идентификатор деплоймента с Reranker-моделью
`query`	`string`	Запрос, относительно которого оценивается релевантность
`documents`	`array<string>`	Список документов-кандидатов. Максимальный суммарный объем зависит от контекстного окна модели
`top_n`	`integer`	(опционально) Вернуть только `top_n` наиболее релевантных документов. Если не указан, возвращаются все документы

Пример запроса

1
curl https://gpt.mwsapis.ru/projects/<имя проекта>/cohere/v2/rerank \
2
  -H 'Content-Type: application/json' \
3
  -H "Authorization: Bearer <API-ключ сервисного аккаунта sa-inferencer>" \
4
  -d '{
5
        "model": "bge-reranker-v2-m3",
6
        "query": "Какие модели поддерживают изображения?",
7
        "documents": [
8
          "GPT Model Hub поддерживает чат-модели, эмбеддинги, ASR и TTS.",
9
          "Модель kimi-k2-instruct умеет обрабатывать изображения, переданные в сообщении пользователя.",
10
          "Для распознавания речи используется whisper-large-v3 и qwen3-asr-1.7b."
11
        ],
12
        "top_n": 2
13
      }' | jq .

1
{
2
  "id": "score-3437d19c-ef09-44cb-ab39-55523ff97d04",
3
  "results": [
4
    {
5
      "index": 1,
6
      "relevance_score": 0.17276334762573242
7
    },
8
    {
9
      "index": 0,
10
      "relevance_score": 0.036736227571964264
11
    }
12
  ],
13
  "meta": {
14
    "api_version": {
15
      "is_experimental": false,
16
      "version": "2"
17
    },
18
    "tokens": {
19
      "input_tokens": 99
20
    }
21
  }
22
}

В этом примере:

index — позиция документа в исходном массиве documents.
relevance_score — оценка релевантности документа запросу. Чем выше значение, тем релевантнее документ.

Документы в ответе уже отсортированы по убыванию relevance_score, поэтому для использования результата в RAG-пайплайне достаточно взять первые top_n элементов.