Мультиязычная большая языковая модель Meta Llama 3.3 (LLM) — это предварительно обученная генеративная модель, настроенная на следование инструкциям, с 70 миллиардами параметров (ввод/вывод текста). Модель Llama 3.3, настроенная на следование инструкциям, оптимизирована для использования в многоязычных диалоговых сценариях и превосходит многие доступные открытые и закрытые чат-модели по общим отраслевым бенчмаркам. Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. [Карточка модели](https://github.com/meta-llama/llama-models/blob/main/models/llama3_3/MODEL_CARD.md)
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="meta-llama/llama-3.3-70b-instruct",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegermin_pnumberstopstring | string[]frequency_penaltynumberpresence_penaltynumberrepetition_penaltynumberseedintegerlogit_biasobjectlogprobsbooleantop_logprobsintegerresponse_formatobjectstructured_outputsbooleantoolsarraytool_choicestring | object