NVIDIA: Nemotron 3.5 Super VLновая

Описание

NVIDIA Nemotron 3.5 Super VL — это открытая мультимодальная модель типа смесь экспертов (MoE) от NVIDIA, с 12 миллиардами активных параметров из общего числа 120 миллиардов. Она принимает в качестве входных данных текст, изображения, документы, снимки экрана графического интерфейса и видео, а возвращает текст. Модель создана для долгосрочных агентов, которые сочетают визуальное понимание с рассуждением и использованием инструментов. Она использует гибридную архитектуру Mamba-Transformer с предсказанием нескольких токенов и поддерживает контекст в 1 миллион токенов. Типичные сценарии использования включают анализ документов, веб-исследования, проверку кода, обслуживание клиентов и понимание видео. Функция рассуждения включена по умолчанию, но может быть отключена или ей может быть задан бюджет токенов.

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="nvidia/nemotron-3.5-super-vl",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса