llama-3.3-70b-instruct
meta-llamaКонтекст131 072 токенов
Вход23.04 ₽/1M
Выход57.60 ₽/1M
Ответ
llama-3.3-70b-instruct не поддерживает Structured Outputs.
Альтернатива: используйте JSON Mode (response_format: {"type": "json_object"}) — он менее строгий, но работает с большим числом моделей.
Смотрите каталог моделей — там отмечены модели с поддержкой Structured Outputs.
Пример использования llama-3.3-70b-instruct
Базовый пример работы с llama-3.3-70b-instruct через AITUNNEL API:
from openai import OpenAI
client = OpenAI(
api_key="ваш_ключ_aitunnel",
base_url="https://api.aitunnel.ru/v1/"
)
response = client.chat.completions.create(
model="llama-3.3-70b-instruct",
messages=[
{"role": "user", "content": "Привет! Как дела?"}
]
)
print(response.choices[0].message.content)Другие вопросы о llama-3.3-70b-instruct
Этот же вопрос — другие модели
Попробуйте сами через AITUNNEL
Получите API ключ и протестируйте модели. Работает из России без VPN, оплата в рублях.
Быстрый стартОплата картой РФПоддержка
Начать работуРегистрация за 1 минуту