Настройка пользовательского поставщика goose

В goose описаны три способа создания пользовательского поставщика: рабочий стол, CLI и файл поставщика. TokenHub использует OpenAI Compatible. В схеме пользовательского поставщика goose введите полное завершение чата URL: https://us-api.tokenhub.com/v1/chat/completions.

Используйте официальный путь к рабочему столу goose.

1. Нажмите кнопку боковой панели в верхнем левом углу.
2. Перейдите к Settings → Models.
3. Нажмите Configure providers.
4. Прокрутите вниз и нажмите Add Custom Provider.
5. Выберите OpenAI Compatible для Provider Type.
6. Введите TokenHub для Display Name.
7. Введите https://us-api.tokenhub.com/v1/chat/completions для API URL.
8. Оставьте This provider requires an API key включенным и введите ключ TokenHub API. Desktop сохраняет его в системной связке ключей или в secrets.yaml, если связка ключей недоступна.
9. В поле Available Models введите точные идентификаторы модели TokenHub, разделенные английскими запятыми.
10. Включите Streaming Support и нажмите Create Provider.

Desktop в настоящее время не может добавлять собственные заголовки. Если он требуется для развертывания, создайте поставщика и впоследствии отредактируйте его JSON.

Используйте официальный путь goose CLI.

Запустить:

goose configure

Далее точно следуйте меню:

1. Выберите Custom Providers (Add custom provider with compatible API).
2. Выберите Add A Custom Provider.
3. Выберите OpenAI Compatible для типа API.
4. Назовите его TokenHub и введите полную информацию о завершении чата URL.
5. Ответьте «Да» на Authentication Required, выберите Static API key и вставьте ключ TokenHub.
6. Введите точные идентификаторы моделей в виде списка, разделенного запятыми, в поле Available Models.
7. Включите поддержку потоковой передачи. Добавляйте пользовательские заголовки только в том случае, если конечная точка действительно требует их.

CLI также поддерживает Command (refreshable) для кратковременных учетных данных. Обычному ключу TokenHub API этот путь не нужен.

Проверьте файл провайдера, созданный goose.

В macOS и Linux файлы находятся под ~/.config/goose/custom_providers/. В Windows используйте %APPDATA%\Block\goose\config\custom_providers\. Важные поля должны совпадать:

{
  "name": "tokenhub",
  "engine": "openai",
  "display_name": "TokenHub",
  "api_key_env": "TOKENHUB_API_KEY",
  "base_url": "__API_BASE_URL__/v1/chat/completions",
  "models": [
    {
      "name": "YOUR_TOKENHUB_MODEL_ID",
      "context_limit": 128000
    }
  ],
  "supports_streaming": true,
  "requires_auth": true
}

api_key_env необходим, когда вы пишете JSON от руки. Статический ключ, введенный через Desktop или CLI, надежно хранится в goose. Замените context_limit на реальный предел модели.

Переключите модели и примените изменения

На рабочем столе перейдите к Settings → Models → Switch models, выберите поставщика и модель TokenHub и нажмите Select model. В документации goose говорится, что изменение пользовательского поставщика вступает в силу в next goose session, поэтому не тестируйте его в старом сеансе.

Начните новый сеанс с задачи кодирования, доступной только для чтения, и подтвердите полный путь /v1/chat/completions в журналах TokenHub. Для ошибки 404 проверьте API URL. Если модель невидима, проверьте список, разделенный запятыми, или models[].name. Если чат работает, но агент не может действовать, используйте модель, возвращающую структурированные вызовы инструментов.

Официальная ссылка

• goose: Настройка поставщика LLM