inclusionAI: Ling 3.0 Tiny

Описание

Ling 3.0 Tiny — это модель "смесь экспертов" от InclusionAI, с 1,3 миллиарда активных параметров из 7,9 миллиарда общих. Она разработана для отзывчивых агентов, следования инструкциям и многоходовых диалогов, с переключаемыми режимами "мышления" и "мгновенным".

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="inclusionai/ling-3.0-tiny",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса