LangChain カスタム API のセットアップ

LangChain の OpenAI 用の公式 Python 統合は、別の langchain-openai パッケージに含まれています。カスタム base_url を ChatOpenAI に渡して、TokenHub を接続します。これはコードの統合です。アプリの設定画面はありません。

ステップ 1: 公式統合パッケージをインストールする

pip install -U langchain-openai

uv によって管理されるプロジェクトの場合は、uv add langchain-openai を使用します。基本 langchain パッケージを単独でインストールしても、ChatOpenAI は提供されません。

ステップ 2: TokenHub に対して ChatOpenAI を明示的にインスタンス化する

export TOKENHUB_API_KEY="sk-..."

import os
from langchain_openai import ChatOpenAI

model = ChatOpenAI(
    base_url="__API_BASE_URL__/v1",
    api_key=os.environ["TOKENHUB_API_KEY"],
    model="YOUR_TOKENHUB_MODEL_ID",
    timeout=60,
    max_retries=2,
)

response = model.invoke("Reply with one sentence to confirm the connection.")
print(response.content)

基本の URL 解決では、コンストラクターの base_url / openai_api_base、次に OPENAI_API_BASE、その後に基礎となる SDK の OPENAI_BASE_URL が優先されます。これを明示的に渡すと、プロジェクト環境内の古い OpenAI URL が TokenHub をオーバーライドできなくなります。

ステップ 3: 一度に 1 つの機能を確認する

1. 最初に最小限の invoke 呼び出しを実行して、通常のチャットの完了を確認します。
2. 基本的な呼び出しが機能する場合にのみ、stream を追加します。 OPENAI_BASE_URL がサードパーティのエンドポイントを指している場合、LangChain は stream_usage を自動的に有効にしません。 TokenHub モデルとエンドポイントがストリーミングの使用をサポートしている場合にのみ、stream_usage=True を設定します。
3. エージェントの場合、1 つの最小限のツールを bind_tools にバインドし、返されたオブジェクトの tool_calls を検査します。単に呼び出しを説明するテキストをツール呼び出しとして扱わないでください。
4. 構造化された出力、画像、推論は、これらのレイヤーが機能した後でのみテストしてください。

ChatOpenAI は、OpenAI API 仕様のフィールドを明示的にターゲットにします。 reasoning_content、reasoning、reasoning_details などのプロバイダー固有の拡張子は抽出または保存できない場合があります。テキスト応答が成功しても、それらの拡張機能が機能することは証明されません。

失敗した LangChain レイヤーでのトラブルシューティング

• インポートが失敗します: langchain-openai がインストールされていることを確認してください。
• 404: /v1 を含む有効な base_url を検査し、環境変数のオーバーライドを確認します。
• モデル エラー: model には完全な TokenHub モデル ID を使用してください。
• ストリーミング テキストは機能しますが、使用法がありません。stream_usage とエンドポイントが stream_options.include_usage をサポートしているかどうかを検査してください。
• エージェント ツールが失敗します: bind_tools を使用して隔離します。基本的な invoke の成功はツール テストではありません。
• 非標準の推論フィールドがありません。プロバイダー固有の LangChain 統合を使用するか、生の応答を直接処理します。

公式リファレンス

• LangChain: ChatOpenAI 統合