Cohere: Rerank 5 Proновая

Описание

Rerank 5 Pro — это более точный уровень семейства моделей повторного ранжирования Rerank 5 от Cohere. Он оценивает и переупорядочивает документы-кандидаты в соответствии с запросом и подходит для конвейеров поиска, где качество ранжирования имеет наибольшее значение: сложные или требующие рассуждений запросы, длинные или предметно-ориентированные документы и системы RAG, которые передают генератору небольшое количество отрывков. Оценки релевантности калибруются в диапазоне от 0 до 1, поэтому фиксированный порог ведет себя согласованно для всех запросов. Rerank 5 Fast — это брат-близнец с меньшей задержкой для высокообъемного поиска и циклов агентов.

Характеристики

API и примеры кода

import requests

r = requests.post(
    "https://infergate.ru/api/v1/rerank",
    headers={"Authorization": "Bearer sk-•••"},
    json={
        "model": "cohere/rerank-5-pro",
        "query": "Столица Франции",
        "documents": ["Париж — столица Франции", "Берлин — столица Германии"],
        "top_n": 1,
    },
)
for res in r.json()["results"]:
    print(res["index"], res["relevance_score"])

Поддерживаемые параметры запроса