Llama 3.2 3B — это мультиязычная большая языковая модель с 3 миллиардами параметров, оптимизированная для решения сложных задач обработки естественного языка, таких как генерация диалогов, рассуждения и суммаризация. Разработанная с использованием новейшей архитектуры трансформеров, она поддерживает восемь языков, включая английский, испанский и хинди, и адаптируема для дополнительных языков. Модель Llama 3.2 3B, обученная на 9 триллионах токенов, отлично справляется с выполнением инструкций, сложными рассуждениями и использованием инструментов. Ее сбалансированная производительность делает ее идеальной для приложений, требующих точность и эффективность в генерации текста в мультиязычных средах. Нажмите здесь для просмотра [оригинальной карты модели](https://github.com/meta-llama/llama-models/blob/main/models/llama3_2/MODEL_CARD.md). Использование этой модели регулируется [Политикой допустимого использования Meta](https://www.llama.com/llama3/use-policy/).
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="meta-llama/llama-3.2-3b-instruct",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegermin_pnumberstopstring | string[]frequency_penaltynumberpresence_penaltynumberrepetition_penaltynumberseedintegerlogit_biasobjectlogprobsbooleantop_logprobsintegerstructured_outputsboolean