SillyTavern

Интерфейс для ролевых чатов и персонажей. Ответы генерируют модели AITUNNEL через источник Custom (OpenAI-compatible).

SillyTavern — open-source интерфейс для ролевых чатов, интерактивных историй и общения с персонажами. Он управляет промптами, лорбуками и контекстом, а ответы пишет внешняя модель.

Понадобятся Node.js 20 или новее, git и ключ из панели.

Здесь только настройка. Полное описание программы, все параметры и разбор ошибок — на странице SillyTavern в каталоге инструментов.

Быстрый старт

  1. Установка

    bash
    git clone https://github.com/SillyTavern/SillyTavern -b release
    cd SillyTavern
    ./start.sh

    На Windows вместо ./start.sh запустите Start.bat. Интерфейс откроется на http://127.0.0.1:8000.

  2. Подключение к API

    Значок вилки в верхней панели → API Connections:

    ПолеЗначение
    APIChat Completion
    Chat Completion SourceCustom (OpenAI-compatible)
    Custom Endpoint (Base URL)https://api.aitunnel.ru/v1
    Custom API Keysk-aitunnel-xxx

    /chat/completions SillyTavern добавит сам. Нажмите Connect: индикатор станет зелёным, в Available Models появятся модели AITUNNEL.

  3. Выбор модели

    Выберите модель в Available Models или введите id в Enter a Model ID, затем нажмите Test Message.

Модели

МодельОсобенности
claude-sonnet-5.5Живой язык, держит характер персонажа
claude-opus-5.5Лучшая проза, дороже
deepseek-v4.1-flashОчень дёшево, хороший русский
kimi-k3Креативные ответы, большой контекст
gemini-3.8-flashБыстро и недорого, контекст 1M

Основная часть расходов приходится на контекст: история и карточка персонажа уходят с каждым сообщением. Объём задаёт Context Size в AI Response Configuration, разумный диапазон 32000–64000.

Claude через reverse proxy

Источник Claude отправляет запросы в родном формате Anthropic, с кэшированием промптов. Выберите Chat Completion Source Claude, в блоке Reverse Proxy укажите Proxy Server URL https://api.aitunnel.ru/v1 (без слеша на конце) и ключ в Proxy Password.

Рассуждения

Включите Request model reasoning, и мысли модели появятся в сворачиваемом блоке. Reasoning Effort для источника Custom уходит не всем моделям, надёжнее задать его в Additional Parameters → include body:

yaml
reasoning_effort: high

Устранение неполадок

Connect не становится зелёным

Base URL должен быть https://api.aitunnel.ru/v1. Проверьте ключ и баланс в панели. Если ключ верный, а модели не грузятся, включите Bypass API status check и введите id вручную.

Ошибка о ролях или пустом сообщении

Поменяйте Prompt Post-Processing на Merge consecutive roles или Semi-strict. Если пользуетесь function calling, берите вариант «With Tools».

Ответы обрываются на середине

Увеличьте Max Response Length. У моделей с рассуждением мысли тоже расходуют этот лимит.

Смотрите также