Модели и ценыЧатДокументация

Реранкинг

POST/api/v1/rerank упорядочивает документы по тому, насколько они отвечают на запрос. Обычно его ставят после поиска, чтобы наверх попали самые подходящие фрагменты.

Запрос

Поля: model — модель реранкинга, query — запрос, documents — строки или объекты {text, image} (image нужен мультимодальным моделям) и необязательный top_n — сколько лучших документов вернуть.

curl https://infergate.ru/api/v1/rerank \
  -H "Authorization: Bearer $INFERGATE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "cohere/rerank-v3.5",
    "query": "Столица Франции",
    "documents": ["Париж — столица Франции", "Берлин — столица Германии"],
    "top_n": 1
  }'

Ответ

results — документы по убыванию релевантности, у каждого index (номер в вашем списке), relevance_score и document. В usage — расход и стоимость запроса.

{
  "model": "cohere/rerank-v3.5",
  "results": [
    { "index": 0, "relevance_score": 0.98, "document": { "text": "Париж — столица Франции" } }
  ],
  "usage": { "search_units": 1, "total_tokens": 24, "cost_rub": 0.1035, "cost": 0.001, "fx_rate": 103.5 }
}

Модели реранкинга тарифицируются за поиск или за входные токены — это указано на странице модели. Их список — GET/api/v1/rerank/models.