명령 코드 BYOK 설정

Command Code는 현재 BYOK를 베타로 표시합니다. 사용자 정의 공급자 마법사는 ID, 유선 프로토콜, API 루트, 키 및 모델을 순서대로 요청합니다. 이는 일반적인 3필드 형식이 아닙니다.

공식 BYOK 마법사를 사용하여 TokenHub 추가

1. Command Code에서 /connect를 실행합니다.
2. (BYOK) Add your own provider를 선택합니다.
3. Name it에 소문자 ID tokenhub를 입력합니다. 이는 ~/.commandcode/providers.json의 항목 이름이 되며 모델은 tokenhub/<model-id>로 라우팅됩니다.
4. Pick the wire에서 기본 OpenAI-compatible 와이어인 openai-completions를 선택합니다. Anthropic Messages에 대해서만 anthropic-messages를 선택하세요.
5. Point at the endpoint에 API 루트 https://us-api.tokenhub.com/v1를 입력합니다. Command Code는 실수로 붙여넣은 /chat/completions를 잘라낼 수 있지만 올바른 루트를 직접 입력해야 합니다.
6. Add the key에 TokenHub API 키를 붙여넣습니다. 마법사는 이를 ~/.commandcode/auth.json에 저장합니다. 키를 저장소에 커밋하지 마세요.
7. Declare the models에서 마법사가 /models를 요청하도록 합니다. 검색 결과가 아무것도 반환되지 않으면 정확한 TokenHub 모델 ID를 수동으로 입력하세요.

입력되지 않는 화면에서는 h를 누르면 간결한 도움말을 볼 수 있고, esc를 누르면 이전 단계로 돌아갈 수 있습니다. 설정이 완료되면 Command Code는 /model를 엽니다. 여기서 새 공급자가 기본 제공 모델과 함께 표시됩니다.

수동 변경이 필요한 경우 공급자.json만 편집하십시오.

공급자 정의는 ~/.commandcode/providers.json에 있습니다. 변경 사항을 다시 로드하려면 /connect 또는 /model를 다시 엽니다.

{
  "provider": {
    "tokenhub": {
      "name": "TokenHub",
      "baseURL": "__API_BASE_URL__/v1",
      "api": "openai-completions",
      "apiKey": "$TOKENHUB_API_KEY",
      "models": {
        "YOUR_TOKENHUB_MODEL_ID": {}
      }
    }
  }
}

/connect가 이미 키를 저장한 경우 공급자 파일에 키를 복제하지 마십시오. 모델은 contextWindow, maxOutput, reasoningEfforts 및 options를 선언할 수도 있지만 해당 TokenHub 모델에 대해 검증된 기능만 추가할 수 있습니다.

공급자 카드에서 연결을 유지합니다.

/connect를 다시 실행하고 tokenhub를 선택합니다. 공급자 카드에는 엔드포인트, 모델 수 및 키 상태가 표시됩니다.

• r: 키를 교체하거나 저장합니다.
• u: 와이어, 헤더 또는 키 참조를 변경하지 않고 모델을 다시 가져옵니다.
• c: 저장된 키를 지웁니다.
• d: 공급자와 해당 로컬 자격 증명을 삭제합니다.

정상적인 공급자에는 녹색 확인 표시와 모델 수가 표시됩니다. providers.json가 유효하지 않은 경우 Command Code는 파일을 덮어쓰지 않고 잘못된 항목을 건너뛰고 해당 경로를 /connect 또는 --list-models에 보고합니다.

/model에서 라우팅 확인

/model를 실행하고 TokenHub 그룹에서 모델을 선택한 다음 읽기 전용 저장소 질문을 하세요. TokenHub 로그에서 모델 ID와 /v1/chat/completions를 확인하세요. 401의 경우 공급자 카드로 돌아가서 r를 누르세요. 404의 경우 baseURL 및 api를 검사합니다. 모델이 없으면 u를 누르거나 providers.json에서 선언하세요.

공식 참고자료

• Command Code: BYOK 공급자