Модели и ценыЧатВопросы
Модели и цены/Sao10K: Llama 3.1 70B Hanami x1

Sao10K: Llama 3.1 70B Hanami x1generative

sao10k
sao10k/l3.1-70b-hanami-x1
Попробовать в чате
Откроется чат с этой моделью

Описание

This is [Sao10K](/sao10k)'s experiment over [Euryale v2.2](/sao10k/l3.1-euryale-70b).

Возможности

json

Модальности

Вход
text
Выход
text

Характеристики

Контекст
16K ток.
Тип
generative
Выпущена
январь 2025 г.

API и примеры кода

from openai import OpenAI

client = OpenAI(
    base_url="https://infergate.ru/api/v1",
    api_key="ig-•••",
)

resp = client.chat.completions.create(
    model="sao10k/l3.1-70b-hanami-x1",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Поддерживаемые параметры запроса

modelstringобязательный
Идентификатор модели.
messagesarrayобязательный
Список сообщений диалога (роль + содержимое).
temperaturenumber
Случайность вывода, 0–2. По умолчанию 1.
max_tokensinteger
Максимум токенов в ответе.
top_pnumber
Nucleus-сэмплирование, 0–1.
top_kinteger
Ограничение сэмплирования top-K токенами.
min_pnumber
Минимальная вероятность токена относительно самого вероятного.
stopstring | string[]
Стоп-последовательности.
frequency_penaltynumber
Штраф за повторы, −2…2.
presence_penaltynumber
Штраф за присутствие, −2…2.
repetition_penaltynumber
Штраф за повторение токенов.
seedinteger
Фиксация для воспроизводимости.
logit_biasobject
Смещения вероятностей отдельных токенов.
structured_outputsboolean
Строгий вывод по JSON-схеме (json_schema в response_format).

Цены ₽ / 1M токенов

Ввод231,00 ₽
Вывод231,00 ₽