Dify

Платформа для чат-ботов, агентов, workflow и баз знаний без кода. AITUNNEL подключается через плагин OpenAI-API-compatible.

Dify — open-source платформа для сборки LLM-приложений: чат-боты, агенты с инструментами, workflow с ветвлениями и базы знаний. Готовое приложение публикуется как веб-чат, виджет или API. Через плагин OpenAI-API-compatible AITUNNEL закрывает все типы моделей: LLM, эмбеддинги, реранкер, распознавание и синтез речи.

Понадобятся Dify Cloud или self-hosted Dify в Docker, роль владельца или администратора рабочего пространства и ключ из панели.

Здесь только настройка. Полное описание программы, все параметры и разбор ошибок — на странице Dify в каталоге инструментов.

Быстрый старт

  1. Установка self-hosted

    bash
    git clone https://github.com/langgenius/dify.git --depth 1
    cd dify/docker
    cp .env.example .env
    docker compose up -d

    Нужен Docker Compose 2.35 или новее. Откройте http://localhost/install и создайте администратора. Если порт 80 занят, поменяйте EXPOSE_NGINX_PORT в .env. В Dify Cloud этот шаг не нужен.

  2. Плагин

    Integrations → Model Provider (в старых версиях: аватар → Settings → Model Provider). Найдите в Marketplace плагин OpenAI-API-compatible от langgenius и нажмите Install.

  3. LLM

    На карточке плагина нажмите Add Model:

    ПолеЗначение
    Model TypeLLM
    Model Nameclaude-sonnet-5.5, точный id из каталога
    API Keysk-aitunnel-xxx
    API endpoint URLhttps://api.aitunnel.ru/v1
    Completion modeChat
    Model context size200000
    Upper bound for max tokens32000
    Function callingTool Call
    Vision SupportSupport (Claude, GPT, Gemini, Kimi)

    Save отправит проверочный запрос. Повторите для каждой нужной модели.

  4. Эмбеддинги и реранкер

    Для базы знаний добавьте ещё две модели через Add Model, адрес у обеих https://api.aitunnel.ru/v1:

    • Text Embedding: text-embedding-3-small (или qwen3-embedding-8b для русских текстов), context size 8192, encoding format float
    • Rerank: rerank-5-fast (или rerank-5-pro), context size 8192. Плагин сам добавит /rerank

    Совет из README плагина убирать /v1 для не-LLM моделей к AITUNNEL не относится: адрес одинаков для всех типов.

  5. Модели по умолчанию

    Кнопка Default Models (раньше System Model Settings) справа вверху. System Reasoning Model генерирует названия диалогов и подсказки, ставьте gpt-6-luna. Там же выберите эмбеддинги, реранкер, gpt-4o-transcribe для STT и gpt-4o-mini-tts для TTS. Без модели по умолчанию соответствующая функция падает с ошибкой.

Модели

МодельДля чего
claude-sonnet-5.5Агенты, сложные workflow, финальный ответ
gpt-6.1-terraУниверсальная модель
gemini-3.8-flashБыстрые ответы, длинные документы
deepseek-v4.1-flashМассовые запросы
gpt-6-lunaКлассификация, извлечение данных, служебные узлы

Все пять поддерживают Tool Call и Vision. В workflow у каждого узла LLM своя модель: простые узлы держите на gpt-6-luna или deepseek-v4.1-flash.

Устранение неполадок

Ошибка при сохранении модели

API endpoint URL — https://api.aitunnel.ru/v1, без /chat/completions. Model Name посимвольно совпадает с id в каталоге. Проверьте ключ и баланс в панели.

Ошибка о параметре user

В настройках модели выставьте User Identity Support = Not Support.

Плагин долго ставится или падает по таймауту

При установке плагин качает Python-зависимости. Укажите зеркало PyPI в PIP_MIRROR_URL и увеличьте PLUGIN_PYTHON_ENV_INIT_TIMEOUT в .env.

Смотрите также