Reka Flash 3 — это большая языковая модель общего назначения с 21 миллиардом параметров, разработанная компанией Reka, обученная на инструкциях. Она превосходно справляется с общим чатом, задачами кодирования, следованием инструкциям и вызовом функций. Обладая длиной контекста в 32K и оптимизированная с помощью обучения с подкреплением (RLOO), она обеспечивает конкурентоспособную производительность, сравнимую с проприетарными моделями, при меньшем размере параметров. Идеально подходящая для развертывания с низкой задержкой, локального или на устройстве, Reka Flash 3 компактна, поддерживает эффективное квантование (до 11 ГБ при 4-битной точности) и использует явные теги для обозначения внутреннего мыслительного процесса («<reasoning>»). Reka Flash 3 — это в первую очередь англоязычная модель с ограниченными возможностями многоязычного понимания. Веса модели выпущены под лицензией Apache 2.0.
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="rekaai/reka-flash-3",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegerstopstring | string[]frequency_penaltynumberpresence_penaltynumberseedintegerlogprobsbooleantop_logprobsintegerstructured_outputsreasoningobjectinclude_reasoningboolean