gigachat-2
gigachatКонтекст128 000 токенов
Вход130.00 ₽/1M
Выход130.00 ₽/1M
Ответ
Да, gigachat-2 поддерживает streaming через AITUNNEL. Добавьте параметр stream=True (Python) или stream: true (JS) в запрос, и ответ будет приходить по частям в реальном времени. Это улучшает UX в чат-ботах и интерфейсах, где важно показывать ответ сразу, не дожидаясь полной генерации.
Пример Streaming с gigachat-2
Получайте ответ gigachat-2 по частям в реальном времени:
from openai import OpenAI
client = OpenAI(
api_key="ваш_ключ_aitunnel",
base_url="https://api.aitunnel.ru/v1/"
)
stream = client.chat.completions.create(
model="gigachat-2",
messages=[
{"role": "user", "content": "Напиши короткий рассказ"}
],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
print() # Новая строка в концеДругие вопросы о gigachat-2
Этот же вопрос — другие модели
Попробуйте сами через AITUNNEL
Получите API ключ и протестируйте модели. Работает из России без VPN, оплата в рублях.
Быстрый стартОплата картой РФПоддержка
Начать работуРегистрация за 1 минуту