FAQ • gigachat-2-pro

Поддерживает ли gigachat-2-pro streaming?

Подробный ответ на вопрос о gigachat-2-pro через AITUNNEL API

gigachat-2-pro

gigachat
Контекст128 000 токенов
Вход1000.00 ₽/1M
Выход1000.00 ₽/1M

Ответ

Да, gigachat-2-pro поддерживает streaming через AITUNNEL. Добавьте параметр stream=True (Python) или stream: true (JS) в запрос, и ответ будет приходить по частям в реальном времени. Это улучшает UX в чат-ботах и интерфейсах, где важно показывать ответ сразу, не дожидаясь полной генерации.

Пример Streaming с gigachat-2-pro

Получайте ответ gigachat-2-pro по частям в реальном времени:

from openai import OpenAI

client = OpenAI(
    api_key="ваш_ключ_aitunnel",
    base_url="https://api.aitunnel.ru/v1/"
)

stream = client.chat.completions.create(
    model="gigachat-2-pro",
    messages=[
        {"role": "user", "content": "Напиши короткий рассказ"}
    ],
    stream=True
)

for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

print()  # Новая строка в конце

Другие вопросы о gigachat-2-pro

Этот же вопрос — другие модели

Попробуйте сами через AITUNNEL

Получите API ключ и протестируйте модели. Работает из России без VPN, оплата в рублях.

Быстрый стартОплата картой РФПоддержка
Начать работуРегистрация за 1 минуту