Sakana: Fugu Max

Описание

Fugu Max — это экономичная модель в семействе Fugu от Sakana AI. Fugu — это не единая монолитная модель, а обучаемая многоагентная система оркестрации: языковая модель, обученная маршрутизировать задачи по фиксированному пулу открытых весов и специализированных моделей, включая семейство Nemotron от NVIDIA, а также рекурсивно вызывать экземпляры самой себя. Fugu Max динамически выбирает эффективные комбинации экспертных агентов для совместного улучшения качества и снижения стоимости, и имеет фиксированную цену независимо от длины контекста. Она поддерживает настраиваемую степень детализации рассуждений (высокая, очень высокая, максимальная), вызов функций, структурированные выходы, ввод изображений и PDF, а также встроенный веб-поиск и получение данных из интернета. Токены оркестрации, потребляемые системой, тарифицируются как стандартные входные/выходные токены.

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="sakana/fugu-max",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса