Upstage: Solar Mini 4

Описание

Solar Mini 4 — это компактная, экономичная языковая модель Upstage, представляющая собой смесь экспертов с 35 миллиардами параметров, 3 миллиардами активных параметров и окном контекста в 524 тысячи токенов. Она создана для использования в агентских сценариях, где важны скорость ответа и стоимость, с отличным корейским языком наряду с сильным английским и японским, а также поддержкой рабочих нагрузок с длинным контекстом. При использовании BYOK с принудительным применением ZDR, ключ API консоли должен принадлежать организации Upstage с включенным ZDR. Обратитесь в Upstage, чтобы включить ZDR для вашей организации.

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="upstage/solar-mini4",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса