SillyTavern 自訂 API 設置

使用 TokenHub 設定 SillyTavern 自訂 OpenAI 相容聊天設定並驗證第一則訊息。

什麼是傻酒館?

SillyTavern 是一個高級用戶聊天前端,用於與許多模型 API 進行角色扮演和長格式對話。

此 SillyTavern 設定遵循其自訂 OpenAI 相容聊天完成流程。使用以 /v1 結尾的 API 根,在發現不可用時提供準確的模型 ID,並在長時間對話之前使用測試訊息。 SillyTavern 是一個前端而不是捆綁的模型服務,長時間的角色扮演會話可以累積大量的提示和歷史標記。使用測試訊息確認自訂聊天完成,如果發現失敗則手動輸入模型,並在開始長時間對話之前檢查上下文限制和使用情況。

TokenHub 屬於 SillyTavern 的 Custom (OpenAI-compatible) 聊天完成來源,而不是文字完成或其他提供者的預設。 SillyTavern 警告自定义端点不能保证适用于所有功能,因此请使用测试消息进行验证。

按照SillyTavern官方的连接顺序

  1. 開啟API Connections
  2. 將 API 類型變更為 Chat Completion
  3. 選擇 Chat Completion SourceCustom (OpenAI-compatible)
  4. 輸入 https://us-api.tokenhub.com/v1 作為自訂端點 URL。
  5. 輸入您的 TokenHub API 金鑰。
  6. 如果TokenHub的/v1/models返回列表,請從選單中選擇型號。否則,請在文字欄位中輸入完整的型號 ID。
  7. 點擊 Test Message 並發送最小提示。

官方指南允許以 /v1 結尾的 URL,但表示不要附加 /chat/completions,因為 SillyTavern 本身添加了該路徑。

僅在實際請求有效後才使用繞過 API 狀態檢查

如果測試訊息和實際聊天均正常返回,但 SillyTavern 仍報告端點不可用,則啟用 Bypass API status check。這會抑制狀態警告;它不會修復 401、404、逾時或無效模型。不要用它來隱藏失敗的請求。

將提示後處理視為 SillyTavern 特定的控制項

如果端點需要先合併相鄰角色、單一系統訊息或使用者訊息,請從限制性最小到限制性最高的順序瀏覽記錄的層級:無、合併連續訊息、半嚴格、嚴格和單一使用者訊息。

對於工具調用,請勿選擇 no tools 變體。 Merge、Semi-strict 和 Strict 的無工具形式從提示中移除工具呼叫。從無和基本聊天完成開始;僅在明確的角色格式錯誤後才加強處理。

對 SillyTavern 表單中的欄位進行故障排除

  • 空模型選單:/models 沒有傳回可用列表,因此手動輸入模型 ID。
  • 404:確保端點以/v1結束。
  • 測試訊息成功,但狀態警告仍然存在:只有此時才考慮繞過 API 狀態檢查。
  • 工具突然消失:檢查無工具提示後處理選項。
  • 角色訊息格式錯誤:嘗試一次合併、半嚴格和嚴格一層,而不是將所有內容折疊到一條訊息中。

官方參考

如何選擇推薦模型?

工作負載模型選擇適合原因
複雜任務旗艦推理模型適合規劃、多步驟執行與複雜上下文。
日常使用均衡模型平衡效果、速度與成本。
批次工作快速低成本模型降低摘要與簡單任務成本。
前往模型廣場比較價格和能力

SillyTavern 自訂 API 常見問題解答

我應該選擇哪種 API 類型?

選擇“聊天完成”,然後選擇“自訂”(與 OpenAI 相容)作為來源。

如果 SillyTavern 無法列出我的 TokenHub 模型怎麼辦?

手動輸入準確的型號 ID。即使 /v1/models 清單不可用,自訂端點也可以工作。

我應該打開繞過 API 狀態檢查嗎?

僅當測試訊息有效但狀態檢查繼續發出錯誤警告。它不會修復非工作端點。

為什麼 SillyTavern 長時間聊天會變慢或失敗?

角色提示和聊天記錄會不斷消耗上下文。查看模型上下文限制和令牌使用情況,然後在需要時總結或修剪歷史記錄。

如何驗證 SillyTavern 自訂端點?

執行測試訊息,確認所選模型保持活動狀態,並在開始長時間聊天之前檢查 TokenHub 日誌中的聊天完成請求。

參考資料

本頁設定依據 TokenHub 教學與官方資料,最後驗證日期為 2026-09-08。