Together: Tev1 4B Experimental

Описание

Tev1 4B Experimental — это экспериментальная модель принятия решений от Together AI, контролируемая доработка Qwen3.5-4B, обученная выбирать один вариант из структурированного состояния, вопроса и списка из 2–24 помеченных вариантов. Она сохраняет стандартную головку следующего токена Qwen, поэтому обслуживается через обычный API завершения чата, а не через специализированную среду выполнения решений. Отправьте системную инструкцию, за которой следует JSON-решение, содержащее `state`, `question` и `options`. Модель возвращает одну букву варианта, которую код приложения сопоставляет с ключом варианта. Рекомендуемые настройки: `temperature: 0`, `max_tokens: 8`, и отключение мышления. Она предназначена для маршрутизации, классификации и проверок политик, а не для обычного чата. Together публикует полный рецепт данных и обучающий код, чтобы команды могли тонко настроить свой собственный вариант.

Характеристики

API и примеры кода

import requests

r = requests.post(
    "https://infergate.ru/api/v1/systemone",
    headers={"Authorization": "Bearer sk-•••"},
    json={
        "model": "togethercomputer/tev1-4b-experimental",
        "state": "Тикет: верните деньги за заказ 1042",
        "questions": {
            "refund": {
                "type": "noul",
                "instructions": "Это запрос на возврат денег?",
                "criteria": {"true": "просит вернуть деньги", "false": "другое"},
            },
        },
    },
)
print(r.json()["answers"]["refund"])

Поддерживаемые параметры запроса