Baseten: Elephant 1новая

Описание

Elephant 1 — это модель для принятия решений с 9 миллиардами параметров, разработанная Base Labs, исследовательской группой Baseten, на основе Qwen3.5-9B. При заданном состоянии (текст или JSON) и типизированных вопросах (да/нет, множественный выбор или порядковая оценка) она возвращает калиброванную вероятность для каждого варианта за один прямой проход, без генерации текста. Она совместима с TypeSafe System One и подходит для маршрутизации, классификации и оценки, когда вам нужен оцененный ответ вместо прозы. Ее более крупный аналог — Mammoth 1.

Характеристики

API и примеры кода

import requests

r = requests.post(
    "https://infergate.ru/api/v1/systemone",
    headers={"Authorization": "Bearer sk-•••"},
    json={
        "model": "baseten/elephant-1",
        "state": "Тикет: верните деньги за заказ 1042",
        "questions": {
            "refund": {
                "type": "noul",
                "instructions": "Это запрос на возврат денег?",
                "criteria": {"true": "просит вернуть деньги", "false": "другое"},
            },
        },
    },
)
print(r.json()["answers"]["refund"])

Поддерживаемые параметры запроса