LangChain 自定义 API 设置

LangChain Python 的官方 OpenAI 集成位于独立的 langchain-openai 包。TokenHub 通过 ChatOpenAI 的自定义 base_url 接入；这是代码集成，不存在 App 设置页。

第一步：安装官方集成包

pip install -U langchain-openai

使用 uv 的项目可改为 uv add langchain-openai。只安装基础 langchain 并不会自动提供 ChatOpenAI。

第二步：显式实例化 TokenHub ChatOpenAI

export TOKENHUB_API_KEY="sk-..."

import os
from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    base_url="__API_BASE_URL__/v1",
    api_key=os.environ["TOKENHUB_API_KEY"],
    model="YOUR_TOKENHUB_MODEL_ID",
    timeout=60,
    max_retries=2,
)

response = model.invoke("请用一句话确认连接成功。")
print(response.content)

官方的 Base URL 解析优先级是：构造函数 base_url / openai_api_base，然后 OPENAI_API_BASE，最后是底层 SDK 读取的 OPENAI_BASE_URL。示例显式传参，避免项目环境中旧的 OpenAI URL 覆盖 TokenHub。

第三步：按能力逐层验证

1. 运行最小 invoke，先确认普通 Chat Completions。
2. 需要流式时再调用 stream。如果使用 OPENAI_BASE_URL 指向第三方端点，LangChain 默认不会替你开启 stream_usage；只有 TokenHub/模型支持流式用量时才设置 stream_usage=True。
3. 需要 Agent 时，通过 bind_tools 绑定一个最小工具并检查返回对象的 tool_calls，不要只看模型是否在文本里“描述了调用”。
4. 最后再测试 structured output、图片或 reasoning。

ChatOpenAI 官方明确只保证 OpenAI API 规范字段。第三方扩展的 reasoning_content、reasoning 或 reasoning_details 不会被提取或保留，所以普通回答成功不能证明这些扩展能力可用。

按 LangChain 层级排错

• import 失败：确认安装的是 langchain-openai。
• 404：确认实际生效的 base_url 包含 /v1，并检查是否被环境变量覆盖。
• 模型错误：检查 model 是否为完整 TokenHub Model ID。
• 流式能输出但无用量：检查 stream_usage 和端点是否支持 stream_options.include_usage。
• Agent 工具失败：用 bind_tools 单独验证；不要以基础 invoke 成功代替工具测试。
• 非标准 reasoning 字段缺失：这是 ChatOpenAI 的已知范围，应使用对应 Provider 的专用 LangChain 集成或直接处理原始响应。

官方资料

• LangChain：ChatOpenAI integration