Hướng dẫn thiết lập Strix OpenAI-Compatible LLM

Strix là gì?

Strix là tác nhân kiểm tra bảo mật AI điều phối các đánh giá bảo mật ứng dụng dựa trên công cụ, nhiều bước.

Thiết lập Strix này sử dụng giá trị STRIX_LLM kiểu LiteLLM chính thức với cơ sở và khóa TokenHub API. Nó yêu cầu tool_calls gốc có cấu trúc và chỉ nên được sử dụng để kiểm tra bảo mật được ủy quyền. Strix điều phối các công cụ bảo mật thông qua một vòng lặp tác nhân, khiến cho các cuộc gọi công cụ gốc có cấu trúc trở thành một yêu cầu cứng về khả năng đáp ứng compatibility. Chỉ chạy nó trên các hệ thống mà bạn sở hữu hoặc được ủy quyền rõ ràng để đánh giá, giữ thông tin xác thực ở chế độ riêng tư và xác minh hành vi mô hình cũng như phạm vi đã chọn bằng thử nghiệm đầu tiên được kiểm soát.

Strix sử dụng LiteLLM để tiếp cận hơn 100 nhà cung cấp. Đối với OpenAI-compatible API, nó không cung cấp trang cài đặt nhà cung cấp chung. Định cấu hình STRIX_LLM, LLM_API_KEY và LLM_API_BASE trong thiết bị đầu cuối khởi động Strix.

Xác nhận ủy quyền của bạn để kiểm tra

Strix là tác nhân kiểm tra bảo mật. Chỉ sử dụng nó đối với các mục tiêu mà bạn sở hữu hoặc được ủy quyền rõ ràng để kiểm tra. Việc chuyển mô hình của nó sang TokenHub không làm thay đổi ranh giới ủy quyền đó.

Theo dõi thiết lập URL cơ sở tùy chỉnh chính thức của Strix

export STRIX_LLM="openai/YOUR_TOKENHUB_MODEL_ID"
export LLM_API_BASE="__API_BASE_URL__/v1"
export LLM_API_KEY="sk-..."

strix --target ./your-app

Các biến này ánh xạ trực tiếp đến ví dụ URL cơ sở tùy chỉnh OpenAI chính thức:

STRIX_LLM sử dụng mẫu provider/model-name của LiteLLM. openai/ là tiền tố định tuyến; phần còn lại là ID mẫu TokenHub.
LLM_API_KEY là khóa TokenHub API của bạn.
LLM_API_BASE là gốc OpenAI-compatible API bao gồm /v1.

Khởi chạy và xác minh từ cùng một thiết bị đầu cuối

Các biến môi trường chỉ áp dụng cho shell hiện tại và các tiến trình con của nó, vì vậy hãy khởi động Strix từ thiết bị đầu cuối nơi bạn đặt chúng. Bắt đầu bằng việc kiểm tra rủi ro thấp đối với mục tiêu cục bộ được ủy quyền, sau đó xác nhận mô hình, điểm cuối và cách sử dụng trong nhật ký TokenHub.

Nếu Strix không thể khởi tạo mô hình, hãy kiểm tra tiền tố openai/ trong STRIX_LLM. Đối với 401, hãy kiểm tra LLM_API_KEY. Nếu không có yêu cầu nào đạt tới TokenHub, hãy xác nhận rằng quy trình đã kế thừa các biến. Nếu tác nhân tạo văn bản nhưng không thực hiện hành động nào, hãy chọn một mô hình có lệnh gọi công cụ có cấu trúc đáng tin cậy.

Tài liệu tham khảo chính thức

Strix: Nhà cung cấp OpenAI

Chọn mô hình

Khối lượng công việcLựa chọn mô hìnhLý do phù hợp

Tác vụ phức tạpMô hình suy luận hỗ trợ công cụPhù hợp với lập kế hoạch, nhiều bước và ngữ cảnh dài.

Sử dụng hằng ngàyMô hình cân bằngCân bằng chất lượng, tốc độ và chi phí.

Tóm tắt và tác vụ nhẹMô hình nhanh, chi phí thấpGiảm chi phí cho tóm tắt và lặp lại đơn giản.

Xem mô hình TokenHub

Strix LLM nhà cung cấp FAQ

STRIX_LLM nên chứa những gì?

Sử dụng openai/ theo sau là ID mẫu TokenHub chính xác, ví dụ: openai/YOUR_TOKENHUB_MODEL_ID.

Tại sao tác nhân Strix không tiến triển?

Mô hình hoặc máy chủ suy luận có thể trả về các cuộc gọi công cụ dưới dạng văn bản thuần túy. Strix cần tool_calls gốc có cấu trúc.

Tôi có thể lưu các giá trị thay vì xuất chúng mỗi lần không?

Vâng. Strix hỗ trợ cấu hình thông qua ~/.strix/cli-config.json; sử dụng định dạng env được ghi lại và giữ tệp ở chế độ riêng tư.

Làm cách nào để định cấu hình OpenAI-compatible API tùy chỉnh trong Strix?

Đặt LLM_API_BASE thành gốc TokenHub /v1, LLM_API_KEY thành khóa TokenHub và khởi động Strix từ môi trường chứa các giá trị đó.

Cần có sự cho phép nào để thử nghiệm Strix?

Chỉ đánh giá các hệ thống bạn sở hữu hoặc được ủy quyền rõ ràng để kiểm tra. Việc kết nối TokenHub không cấp quyền kiểm tra các mục tiêu của bên thứ ba.