Настройка пользовательского API SillyTavern

Настройте SillyTavern пользовательские настройки чата, совместимого с OpenAI, с помощью TokenHub и проверьте первое сообщение.

Создать ключ API TokenHub

Что такое SillyTavern?

SillyTavern — это интерфейс чата для опытных пользователей для ролевых игр и длинных бесед со многими API-интерфейсами моделей.

Эта настройка SillyTavern соответствует пользовательскому процессу завершения чата, совместимому с OpenAI. Используйте корень API, заканчивающийся на /v1, укажите точный идентификатор модели, если обнаружение недоступно, и используйте тестовое сообщение перед долгим разговором. SillyTavern — это интерфейс, а не комплексный сервис модели, и длительные сеансы ролевых игр могут накапливать значительные токены подсказок и истории. Подтвердите завершение пользовательского чата с помощью тестового сообщения, введите модель вручную, если обнаружение не удалось, и просмотрите ограничения и использование контекста, прежде чем начинать длинный разговор.

TokenHub принадлежит к источнику завершения чата SillyTavern Custom (OpenAI-compatible), а не к источнику завершения текста или предустановке для другого поставщика. SillyTavern предупреждает, что пользовательская конечная точка не может гарантированно работать со всеми функциями, поэтому проверьте ее с помощью тестового сообщения.

Следуйте официальной последовательности подключения SillyTavern.

  1. Откройте API Connections.
  2. Измените тип API на Chat Completion.
  3. Выберите Custom (OpenAI-compatible) для Chat Completion Source.
  4. Введите https://us-api.tokenhub.com/v1 для пользовательской конечной точки URL.
  5. Введите свой ключ TokenHub API.
  6. Если /v1/models TokenHub возвращает список, выберите модель из меню. В противном случае введите полный идентификатор модели в текстовое поле.
  7. Нажмите Test Message и отправьте минимальное приглашение.

Официальное руководство разрешает URL, заканчивающееся на /v1, но говорит не добавлять /chat/completions, поскольку SillyTavern сам добавляет этот путь.

Используйте обход проверки статуса API только после того, как реальный запрос сработает.

Если тестовое сообщение и реальный чат возвращаются нормально, но SillyTavern по-прежнему сообщает, что конечная точка недоступна, включите Bypass API status check. Это подавляет предупреждение о состоянии; он не исправляет ошибки 401, 404, тайм-аут или недопустимую модель. Не используйте его, чтобы скрыть неудавшийся запрос.

Рассматривайте постобработку подсказки как элемент управления, специфичный для SillyTavern.

Если конечная точка требует объединения смежных ролей, сначала одного системного сообщения или сообщения пользователя, перейдите по уровням документирования от наименее строгого к наиболее строгому: «Нет», «Объединить последовательные сообщения», «Полустрогое», «Строгое» и «Одно пользовательское сообщение».

Для вызова инструмента не выбирайте вариант no tools. Формы Merge, Semi-strict и Strict без инструментов удаляют вызовы инструментов из подсказки. Начните с «Нет» и базовых дополнений в чате; затягивайте обработку только после явной ошибки формата роли.

Устранение неполадок с полями в форме SillyTavern.

  • Пустое меню модели: /models не вернул пригодный для использования список, поэтому введите идентификатор модели вручную.
  • 404: убедитесь, что конечная точка заканчивается на /v1.
  • Тестовое сообщение проходит успешно, но предупреждение о статусе остается: только после этого рассмотрите возможность проверки статуса обхода API.
  • Инструменты внезапно исчезают: установите флажок «Запрашивать постобработку без инструментов».
  • Ошибка формата ролевого сообщения: попробуйте объединить, полустрогое и строгое по одному уровню вместо того, чтобы сворачивать все в одно сообщение.

Официальная ссылка

Как выбрать модель

НагрузкаВыбор моделиПочему подходит
Сложные задачиМодель рассуждений с инструментамиПодходит для планирования, многошаговых задач и длинного контекста.
Ежедневная работаСбалансированная модельБаланс качества, скорости и стоимости.
Сводки и лёгкие задачиБыстрая недорогая модельСнижает стоимость сводок и простых итераций.
Открыть модели TokenHub

Часто задаваемые вопросы по пользовательскому API SillyTavern

Какой тип API мне выбрать?

Выберите «Завершение чата», затем выберите «Пользовательский (совместимый с OpenAI)» в качестве источника.

Что, если SillyTavern не сможет указать мою модель TokenHub?

Введите точный идентификатор модели вручную. Пользовательская конечная точка может работать, даже если список /v1/models недоступен.

Должен ли я включить проверку статуса обхода API?

Только когда тестовое сообщение работает, но проверка статуса продолжает выдавать неверные предупреждения. Он не восстанавливает нерабочую конечную точку.

Почему длинные чаты SillyTavern работают медленно или не работают?

Подсказки персонажей и история чата постоянно используют контекст. Просмотрите ограничение контекста модели и использование токенов, а затем при необходимости суммируйте или обрезайте историю.

Как мне проверить пользовательскую конечную точку SillyTavern?

Запустите тестовое сообщение, убедитесь, что выбранная модель остается активной, и проверьте наличие запроса на завершение чата в журналах TokenHub, прежде чем начинать длинный чат.

Источники

Эта настройка основана на TokenHub и официальной документации; последняя проверка: 2026-09-08。

Сравните настройку и совместимость моделей похожих инструментов.

HammerAIOpenAI CompatibleJanitor AIOpenAI Compatible