LibreChat — кастомный эндпоинт в librechat.yaml
LibreChat — open-source платформа для чата с агентами, памятью и RAG на моделях AITUNNEL
LibreChat — open-source клон ChatGPT для своего сервера: многопользовательский чат, агенты с инструментами, память, загрузка файлов с RAG, голос и пресеты. Провайдеры описываются в файле librechat.yaml, и AITUNNEL добавляется туда как кастомный эндпоинт. Пользователи получают Claude, GPT, Gemini, DeepSeek и другие модели в одном интерфейсе.
API-ключ для LibreChat
LibreChat обращается к моделям через API-ключ. Ключ AITUNNEL вида sk-aitunnel-... один для всех моделей из каталога: чтобы перейти с Claude на GPT или DeepSeek, достаточно сменить id модели.
- Зарегистрируйтесь на aitunnel.ru и пополните баланс (от 500₽).
- Откройте Ключи, нажмите «Новый», задайте имя и нажмите «Создать ключ».
- Скопируйте ключ. Его можно показать повторно в любой момент.
Ключ хранится в .env как AITUNNEL_API_KEY, а в librechat.yaml на него ссылается строка apiKey: "${AITUNNEL_API_KEY}". Сам ключ в yaml не пишите: этот файл обычно лежит в git вместе с остальной конфигурацией. После смены ключа перезапустите контейнеры, иначе LibreChat продолжит работать со старым.
Если хотите, чтобы каждый сотрудник платил своим ключом AITUNNEL, укажите в эндпоинте:
apiKey: "user_provided"LibreChat попросит пользователя ввести ключ при первом выборе эндпоинта и сохранит его в зашифрованном виде.
Бюджет, ограничения по моделям и IP, сброс ключа — в документации по ключам.
Что понадобится
- Docker и Docker Compose
- Ключ AITUNNEL
sk-aitunnel-...из личного кабинета - Положительный баланс (от 500₽)
Шаг 1: установка
git clone https://github.com/LibreChat-AI/LibreChat.git
cd LibreChat
cp .env.example .env
cp docker-compose.override.yml.example docker-compose.override.ymlШаг 2: ключ в .env
Добавьте в конец .env:
AITUNNEL_API_KEY=sk-aitunnel-xxxШаг 3: подключите librechat.yaml
Откройте docker-compose.override.yml и примонтируйте файл конфигурации в контейнер:
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yamlШаг 4: кастомный эндпоинт
Создайте librechat.yaml в корне проекта:
version: 1.3.18
cache: true
endpoints:
custom:
- name: "AITUNNEL"
apiKey: "${AITUNNEL_API_KEY}"
baseURL: "https://api.aitunnel.ru/v1"
models:
default:
- "claude-sonnet-5.5"
- "claude-opus-5.5"
- "gpt-6.1-terra"
- "gemini-3.8-flash"
- "deepseek-v4.1-flash"
- "gpt-6-luna"
fetch: false
titleConvo: true
titleModel: "gpt-6-luna"
modelDisplayLabel: "AITUNNEL"Разбор полей:
| Поле | Значение |
|---|---|
name | Уникальное имя эндпоинта, оно же видно в интерфейсе |
apiKey | ${AITUNNEL_API_KEY} — подставится из .env |
baseURL | https://api.aitunnel.ru/v1 — LibreChat добавит /chat/completions |
models.default | Список моделей в выпадающем меню, минимум одна |
models.fetch | true — загрузить все модели с AITUNNEL (почти две сотни), false — только из списка |
titleConvo / titleModel | Автоназвания диалогов дешёвой моделью |
modelDisplayLabel | Подпись автора ответов в чате |
Запустите:
docker compose up -dОткройте http://localhost:3080 и зарегистрируйтесь — первый пользователь становится администратором. В выборе эндпоинта появится AITUNNEL.
Claude в формате Anthropic
Чтобы Claude работал через родной формат Anthropic Messages (с кэшированием промптов и thinking), добавьте второй эндпоинт:
- name: "AITUNNEL Claude"
provider: "anthropic"
apiKey: "${AITUNNEL_API_KEY}"
baseURL: "https://api.aitunnel.ru"
models:
default:
- "claude-sonnet-5.5"
- "claude-opus-5.5"
- "claude-haiku-5.5"
fetch: false
titleConvo: true
titleModel: "claude-haiku-5.5"Здесь baseURL без /v1 — Anthropic SDK сам добавит /v1/messages.
Агенты
Боковая панель → Agent Builder → Create New Agent. В списке провайдеров появится AITUNNEL. Агенту можно дать инструкции, файлы и инструменты (поиск, выполнение кода, MCP). Для инструментов выбирайте модель с поддержкой tool calling — claude-sonnet-5.5, gpt-6.1-terra, gemini-3.8-flash, deepseek-v4.1-flash.
Память и суммаризация
Память — LibreChat запоминает факты о пользователе между диалогами:
memory:
tokenLimit: 3000
personalize: true
agent:
enabled: true
provider: "AITUNNEL"
model: "gpt-6-luna"Суммаризация длинных диалогов:
summarization:
provider: "AITUNNEL"
model: "gpt-6-luna"В provider пишется точное значение name эндпоинта.
Файлы и RAG
Для поиска по загруженным файлам LibreChat использует отдельный сервис RAG API. Эмбеддинги для него тоже берутся из AITUNNEL — добавьте в .env:
EMBEDDINGS_PROVIDER=openai
RAG_OPENAI_BASEURL=https://api.aitunnel.ru/v1
RAG_OPENAI_API_KEY=sk-aitunnel-xxx
EMBEDDINGS_MODEL=text-embedding-3-smallНе меняйте модель эмбеддингов после загрузки файлов — векторы разных моделей несовместимы, старые файлы придётся загрузить заново.
Голос
speech:
stt:
openai:
url: "https://api.aitunnel.ru/v1/audio/transcriptions"
apiKey: "${AITUNNEL_API_KEY}"
model: "gpt-4o-transcribe"
tts:
openai:
url: "https://api.aitunnel.ru/v1/audio/speech"
apiKey: "${AITUNNEL_API_KEY}"
model: "gpt-4o-mini-tts"
voices: ["alloy", "nova", "onyx", "shimmer"]
speechTab:
speechToText:
engineSTT: "external"
textToSpeech:
engineTTS: "external"В разделе speech адреса указываются полностью, вместе с путём.
Пресеты моделей
modelSpecs позволяет показать пользователям понятные карточки вместо списка id:
modelSpecs:
list:
- name: "aitunnel-fast"
label: "Быстрые ответы"
description: "Gemini 3.8 Flash — для повседневных вопросов"
preset:
endpoint: "AITUNNEL"
model: "gemini-3.8-flash"
- name: "aitunnel-smart"
label: "Сложные задачи"
description: "Claude Sonnet 5.5 — анализ, код, тексты"
preset:
endpoint: "AITUNNEL"
model: "claude-sonnet-5.5"Устранение неполадок
После любого изменения librechat.yaml или .env перезапускайте контейнеры:
docker compose down && docker compose up -dЛоги — docker compose logs api.
Кастомный эндпоинт не появился
- Не примонтирован
librechat.yaml— проверьтеdocker-compose.override.yml - В записи эндпоинта не хватает
name,apiKey,baseURLилиmodels— такая запись молча пропускается - Ошибка отступов YAML — используйте пробелы, не табы
Сервер не стартует после правки конфига
Пустой models.default или ошибка схемы останавливает весь сервер. Смотрите docker compose logs api.
«Missing API Key» при отправке
Переменная AITUNNEL_API_KEY не задана в .env или контейнер не перезапущен.
Ошибка 404
Для обычного эндпоинта baseURL — с /v1, для provider: "anthropic" — без /v1.
Почему это выгодно
- Без VPN — сервер ходит на
api.aitunnel.ruнапрямую - Один эндпоинт — все модели, плюс эмбеддинги и голос
- Для бизнеса — оплата по счёту, закрывающие документы через ЭДО
- Оплата в рублях — карты МИР, СБП, от 500₽
Ключевые возможности
- Один API-ключ AITUNNEL на все модели
- Кастомный эндпоинт в librechat.yaml
- Claude через провайдер anthropic
- Агенты с инструментами и MCP
- Память и суммаризация на дешёвой модели
- RAG по файлам на эмбеддингах AITUNNEL
- Голосовой ввод и озвучка
Подключите этот инструмент через AITUNNEL
Все инструменты и модели доступны через единый API. Работает из России, оплата в рублях.