Moondream: Moondream 3 Previewновая

Описание

Moondream 3 Preview — это визуально-языковая модель от Moondream с общим количеством параметров 9B и активным количеством 2B (смесь экспертов). Она обрабатывает ответы на визуальные вопросы, создание подписей, распознавание текста и визуальное мышление на основе изображений, с контекстом в 32K токенов и опциональным режимом рассуждения.

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="moondream/moondream3-preview",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса