Palmyra X5 — это самая передовая модель Writer, специально разработанная для создания и масштабирования ИИ-агентов на уровне всего предприятия. Она обеспечивает лучшую в отрасли скорость и эффективность работы с контекстными окнами до 1 миллиона токенов, опираясь на новую архитектуру трансформера и гибридные механизмы внимания. Это позволяет ускорить инференцию и расширить память для обработки больших объемов корпоративных данных, что критически важно для масштабирования ИИ-агентов.
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="writer/palmyra-x5",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegertop_pnumbertop_kintegerstopstring | string[]