Kimi K2 Instruct — это крупная языковая модель Mixture-of-Experts (MoE), разработанная Moonshot AI, включающая 1 триллион общих параметров, из которых 32 миллиарда активны на каждый прямой проход. Она оптимизирована для агентских возможностей, включая продвинутое использование инструментов, рассуждения и синтез кода. Kimi K2 демонстрирует превосходные результаты в широком спектре бенчмарков, особенно в задачах кодирования (LiveCodeBench, SWE-bench), рассуждений (ZebraLogic, GPQA) и использования инструментов (Tau2, AceBench). Она поддерживает вывод с длинным контекстом до 128 тысяч токенов и разработана с использованием нового стека обучения, который включает оптимизатор MuonClip для стабильного крупномасштабного обучения MoE.
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="moonshotai/kimi-k2",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegerstopstring | string[]frequency_penaltynumberpresence_penaltynumberrepetition_penaltynumberseedintegertoolsarraytool_choicestring | object