Amazon Nova Lite 1.0 — это очень экономичная мультимодальная модель от Amazon, ориентированная на быструю обработку изображений, видео и текстовых входных данных для генерации текстовых выходных данных. Amazon Nova Lite может с высокой точностью обрабатывать взаимодействие с клиентами в режиме реального времени, анализировать документы и выполнять задачи визуального ответа на вопросы. При входном контексте в 300 тысяч токенов она может анализировать несколько изображений или до 30 минут видео за один вход.
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="amazon/nova-lite-v1",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegerstopstring | string[]toolsarray