Mercury 2 — это чрезвычайно быстрая LLM-модель с механизмом рассуждений и первая LLM-модель рассуждений с диффузией (dLLM). Вместо последовательной генерации токенов, Mercury 2 производит и уточняет несколько токенов параллельно, достигая скорости >1000 токенов в секунду на стандартных графических процессорах. Mercury 2 работает в 5 раз быстрее, чем ведущие LLM-модели, оптимизированные по скорости, такие как Claude 4.5 Haiku и GPT 5 Mini, при этом обладая значительно меньшей стоимостью. Mercury 2 поддерживает настраиваемые уровни рассуждений, контекст 128K, естественное использование инструментов и вывод JSON, соответствующий схеме. Создан для рабочих процессов кодирования, где задержка увеличивается, для голосового ввода/поиска в реальном времени и для циклов агентов. Совместим с API OpenAI. Подробнее читайте в [блоге](https://www.inceptionlabs.ai/blog/introducing-mercury-2).
from openai import OpenAI
client = OpenAI(
base_url="https://infergate.ru/api/v1",
api_key="sk-•••",
)
resp = client.chat.completions.create(
model="inception/mercury-2",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)modelstringобязательныйmessagesarrayобязательныйtemperaturenumbermax_tokensintegerstopstring | string[]response_formatobjectstructured_outputsbooleantoolsarraytool_choicestring | objectreasoningobjectreasoning_effortstringinclude_reasoningboolean