Ошибка 504 llama-3.2-3b-instruct — решение

Ошибка 504 при работе с llama-3.2-3b-instruct

Сервер не дождался ответа от upstream (модель отвечала слишком долго).

Что делать

1. Уменьшите max_tokens или упростите запрос.
2. Повторите запрос; при тяжёлой нагрузке у провайдера 504 бывает временным.
3. Выберите более быструю модель для той же задачи.

Если проблема сохраняется, напишите в поддержку support@aitunnel.ru — укажите модель, код ошибки и пример запроса (без ключа).

Связанные материалы

• Почему llama-3.2-3b-instruct отвечает медленно
• Как уменьшить стоимость llama-3.2-3b-instruct
• Ошибка 429 llama-3.2-3b-instruct — решение
• Ошибка 500 llama-3.2-3b-instruct — решение
• Ошибка 503 llama-3.2-3b-instruct — решение
• Ошибка 401 llama-3.2-3b-instruct — решение
• Ошибка 403 llama-3.2-3b-instruct — решение