Cohere: Rerank 5 Fastновая

Описание

Rerank 5 Fast — это уровень с низкой задержкой из семейства моделей повторного ранжирования Rerank 5 от Cohere. Он оценивает и упорядочивает документы-кандидаты в соответствии с запросом и подходит для высокопроизводительного поиска, такого как поиск с большим объемом данных, циклы инструментов агентов и первичная фильтрация перед более дорогостоящим шагом. Показатели релевантности калибруются в диапазоне от 0 до 1, поэтому фиксированный порог ведет себя одинаково для всех запросов. Rerank 5 Pro — это модель с более высокой точностью для сложных запросов и длинных или предметно-ориентированных документов.

Характеристики

API и примеры кода

import requests

r = requests.post(
    "https://infergate.ru/api/v1/rerank",
    headers={"Authorization": "Bearer sk-•••"},
    json={
        "model": "cohere/rerank-5-fast",
        "query": "Столица Франции",
        "documents": ["Париж — столица Франции", "Берлин — столица Германии"],
        "top_n": 1,
    },
)
for res in r.json()["results"]:
    print(res["index"], res["relevance_score"])

Поддерживаемые параметры запроса