Dify
Платформа для чат-ботов, агентов, workflow и баз знаний без кода. AITUNNEL подключается через плагин OpenAI-API-compatible.
Dify — open-source платформа для сборки LLM-приложений: чат-боты, агенты с инструментами, workflow с ветвлениями и базы знаний. Готовое приложение публикуется как веб-чат, виджет или API. Через плагин OpenAI-API-compatible AITUNNEL закрывает все типы моделей: LLM, эмбеддинги, реранкер, распознавание и синтез речи.
Понадобятся Dify Cloud или self-hosted Dify в Docker, роль владельца или администратора рабочего пространства и ключ из панели.
Здесь только настройка. Полное описание программы, все параметры и разбор ошибок — на странице Dify в каталоге инструментов.
Быстрый старт
Установка self-hosted
bashgit clone https://github.com/langgenius/dify.git --depth 1 cd dify/docker cp .env.example .env docker compose up -dНужен Docker Compose 2.35 или новее. Откройте
http://localhost/installи создайте администратора. Если порт 80 занят, поменяйтеEXPOSE_NGINX_PORTв.env. В Dify Cloud этот шаг не нужен.Плагин
Integrations → Model Provider (в старых версиях: аватар → Settings → Model Provider). Найдите в Marketplace плагин OpenAI-API-compatible от langgenius и нажмите Install.
LLM
На карточке плагина нажмите Add Model:
Поле Значение Model Type LLM Model Name claude-sonnet-5.5, точный id из каталогаAPI Key sk-aitunnel-xxxAPI endpoint URL https://api.aitunnel.ru/v1Completion mode Chat Model context size 200000Upper bound for max tokens 32000Function calling Tool Call Vision Support Support (Claude, GPT, Gemini, Kimi) Save отправит проверочный запрос. Повторите для каждой нужной модели.
Эмбеддинги и реранкер
Для базы знаний добавьте ещё две модели через Add Model, адрес у обеих
https://api.aitunnel.ru/v1:- Text Embedding:
text-embedding-3-small(илиqwen3-embedding-8bдля русских текстов), context size8192, encoding formatfloat - Rerank:
rerank-5-fast(илиrerank-5-pro), context size8192. Плагин сам добавит/rerank
Совет из README плагина убирать
/v1для не-LLM моделей к AITUNNEL не относится: адрес одинаков для всех типов.- Text Embedding:
Модели по умолчанию
Кнопка Default Models (раньше System Model Settings) справа вверху. System Reasoning Model генерирует названия диалогов и подсказки, ставьте
gpt-6-luna. Там же выберите эмбеддинги, реранкер,gpt-4o-transcribeдля STT иgpt-4o-mini-ttsдля TTS. Без модели по умолчанию соответствующая функция падает с ошибкой.
Модели
| Модель | Для чего |
|---|---|
claude-sonnet-5.5 | Агенты, сложные workflow, финальный ответ |
gpt-6.1-terra | Универсальная модель |
gemini-3.8-flash | Быстрые ответы, длинные документы |
deepseek-v4.1-flash | Массовые запросы |
gpt-6-luna | Классификация, извлечение данных, служебные узлы |
Все пять поддерживают Tool Call и Vision. В workflow у каждого узла LLM своя модель: простые узлы держите на gpt-6-luna или deepseek-v4.1-flash.
Устранение неполадок
Ошибка при сохранении модели
API endpoint URL — https://api.aitunnel.ru/v1, без /chat/completions. Model Name посимвольно совпадает с id в каталоге. Проверьте ключ и баланс в панели.
Ошибка о параметре user
В настройках модели выставьте User Identity Support = Not Support.
Плагин долго ставится или падает по таймауту
При установке плагин качает Python-зависимости. Укажите зеркало PyPI в PIP_MIRROR_URL и увеличьте PLUGIN_PYTHON_ENV_INIT_TIMEOUT в .env.