VoyageAI by MongoDB: rerank-3-lite

Описание

rerank-3-lite — это реранкер, оптимизированный как по задержке, так и по качеству, и является прямой заменой rerank-2.5-lite, превосходя его в среднем на 0,94% NDCG@10 по всем оценкам в различных доменах и на 1,86% в оценках для длинных документов, с приростом в извлечении кода на 2,77% поверх voyage-3-large и на 2,59% поверх voyage-4-large. Он соответствует качеству извлечения rerank-2.5, и по 93 наборам данных для извлечения он превосходит Cohere Rerank v4.0 Pro на 1,44% и Qwen3-Reranker-8B на 2,61%. Модель поддерживает объединенную длину контекста в 32K токенов на пару запрос-документ, включая до 8K токенов для запроса, что позволяет более точно извлекать информацию из длинных документов. Кроме того, rerank-3-lite поддерживает следование инструкциям.

Характеристики

API и примеры кода

import requests

r = requests.post(
    "https://infergate.ru/api/v1/rerank",
    headers={"Authorization": "Bearer sk-•••"},
    json={
        "model": "mongodb/rerank-3-lite",
        "query": "Столица Франции",
        "documents": ["Париж — столица Франции", "Берлин — столица Германии"],
        "top_n": 1,
    },
)
for res in r.json()["results"]:
    print(res["index"], res["relevance_score"])

Поддерживаемые параметры запроса