VoyageAI by MongoDB: rerank-2.5

Описание

rerank-2.5 — это передовой реранкер, оптимизированный по качеству, обеспечивающий улучшение точности поиска на 7,94% по сравнению с Cohere Rerank v3.5 на 93 наборах данных. Он также превзошел Cohere Rerank v3.5 на 12,70% в бенчмарке Massive Instructed Retrieval Benchmark (MAIR). Модель поддерживает общую длину контекста в 32K токенов на пару запрос-документ, включая до 8K токенов для запроса, что позволяет более точно извлекать информацию из более длинных документов.

Характеристики

API и примеры кода

import requests

r = requests.post(
    "https://infergate.ru/api/v1/rerank",
    headers={"Authorization": "Bearer sk-•••"},
    json={
        "model": "mongodb/rerank-2.5",
        "query": "Столица Франции",
        "documents": ["Париж — столица Франции", "Берлин — столица Германии"],
        "top_n": 1,
    },
)
for res in r.json()["results"]:
    print(res["index"], res["relevance_score"])

Поддерживаемые параметры запроса