LangChain自訂API設置

LangChain 的 OpenAI 官方 Python 集成位于单独的 langchain-openai 包中。通过将自定义 base_url 传递到 ChatOpenAI 来连接 TokenHub。這是一個代碼整合；沒有應用程式設定畫面。

第一步：安裝官方整合包

pip install -U langchain-openai

對於uv管理的項目，使用uv add langchain-openai。單獨安裝基礎 langchain 軟體套件不提供 ChatOpenAI。

步骤2：为TokenHub显式实例化ChatOpenAI

export TOKENHUB_API_KEY="sk-..."

import os
from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    base_url="__API_BASE_URL__/v1",
    api_key=os.environ["TOKENHUB_API_KEY"],
    model="YOUR_TOKENHUB_MODEL_ID",
    timeout=60,
    max_retries=2,
)

response = model.invoke("Reply with one sentence to confirm the connection.")
print(response.content)

基礎 URL 解析優先考慮建構子的 base_url / openai_api_base，然後是 OPENAI_API_BASE，最後是基礎 SDK 的 OPENAI_BASE_URL。明确传递它可以防止项目环境中的旧 OpenAI URL 覆盖 TokenHub。

第 3 步：一次驗證一項功能

1. 首先運行最少的 invoke 呼叫來確認正常聊天完成。
2. 僅當基本呼叫有效時才添加 stream。当OPENAI_BASE_URL指向第三方端点时，LangChain不会自动启用stream_usage；仅当 TokenHub 型号和终端支持流式使用时才设置 stream_usage=True。
3. 對於代理，將一個最小工具與 bind_tools 綁定，並檢查傳回物件上的 tool_calls。不要將僅描述呼叫的文字視為工具呼叫。
4. 僅在這些層工作後才測試結構化輸出、圖像和推理。

ChatOpenAI 明確針對 OpenAI API 規格中的欄位。特定於提供者的擴充（例如 reasoning_content、reasoning 或 reasoning_details）可能無法提取或保留。成功的文字回應並不能證明這些擴展有效。

在失敗的LangChain層進行故障排除

• 導入失敗：確認已安裝langchain-openai。
• 404：檢查有效的base_url，包括/v1，並檢查環境變數覆蓋。
• 型號錯誤：使用model中完整的TokenHub型號ID。
• 流文字可以工作，但缺少用法：檢查 stream_usage 以及端點是否支援 stream_options.include_usage。
• Agent工具失敗：用bind_tools隔離；成功的基本invoke不是工具測試。
• 不存在非標準推理欄位：使用特定於提供者的 LangChain 整合或直接處理原始回應。

官方參考

• LangChain：ChatOpenAI 整合