Llama 3.2 1B — это языковая модель с миллиардом параметров, ориентированная на эффективное выполнение задач обработки естественного языка, таких как суммаризация, диалоги и многоязычный текстовый анализ. Ее небольшой размер позволяет ей эффективно работать в условиях ограниченных ресурсов, сохраняя при этом высокую производительность задач. Llama 1.3B поддерживает восемь основных языков и может быть доработана для большего количества. Она идеально подходит для компаний или разработчиков, ищущих легкие, но мощные решения ИИ, которые могут работать в различных многоязычных средах без высоких вычислительных требований более крупных моделей. Нажмите здесь, чтобы ознакомиться с [оригинальной карточкой модели](https://github.com/meta-llama/llama-models/blob/main/models/llama3_2/MODEL_CARD.md). Использование этой модели регулируется [Политикой допустимого использования Meta](https://www.llama.com/llama3/use-policy/).
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="meta-llama/llama-3.2-1b-instruct",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegermin_pnumberstopstring | string[]frequency_penaltynumberpresence_penaltynumberrepetition_penaltynumberseedintegerlogit_biasobject