Reflection: Beam 1.0 501B A23Bновая

Описание

Beam 1.0 — это открытая модель рассуждений Reflection для кодирования и долгосрочных агентных рабочих процессов. Она использует архитектуру с разреженным смешением экспертов с общим количеством 501 миллиард параметров и 23 миллиарда активных параметров на токен, а также контекстным окном в 1 миллион токенов. Beam ориентирован на разработку программного обеспечения, многоступенчатое использование инструментов и математические и научные рассуждения, с акцентом на эффективность использования токенов. Он принимает текстовый ввод и выдает текстовый вывод, поддерживает настраиваемые усилия по рассуждению, вызов функций и структурированные выводы, и выпускается под лицензией Apache 2.0.

Характеристики

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="sk-•••",
)

resp = client.chat.completions.create(
    model="reflection/beam-1.0-501b-a23b",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса