Providers
LiteLLM
LiteLLM là một gateway LLM mã nguồn mở với API hợp nhất cho hơn 100 nhà cung cấp mô hình. Định tuyến OpenClaw qua LiteLLM để theo dõi chi phí tập trung, ghi nhật ký, sử dụng khóa ảo có giới hạn chi tiêu và chuyển đổi dự phòng phần phụ trợ mà không cần thay đổi cấu hình OpenClaw.
Bắt đầu nhanh
Thiết lập ban đầu (khuyến nghị)
openclaw onboard --auth-choice litellm-api-keyĐể thiết lập không tương tác với một proxy từ xa, hãy truyền rõ URL của proxy:
openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \ --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"Thiết lập thủ công
Khởi động LiteLLM Proxy
pip install 'litellm[proxy]'litellm --model claude-opus-4-6Kết nối OpenClaw với LiteLLM
export LITELLM_API_KEY="your-litellm-key"openclawCấu hình
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", api: "openai-completions", models: [ { id: "claude-opus-4-6", name: "Claude Opus 4.6", reasoning: true, input: ["text", "image"], contextWindow: 200000, maxTokens: 64000, }, { id: "gpt-4o", name: "GPT-4o", reasoning: false, input: ["text", "image"], contextWindow: 128000, maxTokens: 8192, }, ], }, }, }, agents: { defaults: { model: { primary: "litellm/claude-opus-4-6" }, }, },}Mô hình mặc định được quy trình thiết lập ban đầu ghi vào là litellm/claude-opus-4-6.
Tạo hình ảnh
LiteLLM có thể cung cấp phần phụ trợ cho công cụ image_generate thông qua các tuyến
/images/generations và /images/edits tương thích với OpenAI. Mô hình hình ảnh mặc định là
gpt-image-2; để cấu hình mô hình khác, hãy đặt tại agents.defaults.imageGenerationModel:
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", }, }, }, agents: { defaults: { imageGenerationModel: { primary: "litellm/gpt-image-2", timeoutMs: 180_000, }, }, },}Các URL local loopback của LiteLLM (http://localhost:4000, 127.0.0.1, ::1, host.docker.internal)
hoạt động mà không cần ghi đè mạng riêng ở cấp toàn cục. Đối với proxy được lưu trữ trên mạng LAN, hãy đặt
models.providers.litellm.request.allowPrivateNetwork: true vì khóa API được gửi đến máy chủ đó.
Nâng cao
Khóa ảo
Tạo một khóa chuyên dụng cho OpenClaw với giới hạn chi tiêu:
curl -X POST "http://localhost:4000/key/generate" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY" \ -H "Content-Type: application/json" \ -d '{ "key_alias": "openclaw", "max_budget": 50.00, "budget_duration": "monthly" }'Sử dụng khóa được tạo làm LITELLM_API_KEY.
Định tuyến mô hình
LiteLLM có thể định tuyến yêu cầu mô hình đến các phần phụ trợ khác nhau. Hãy cấu hình trong tệp
config.yaml của LiteLLM:
model_list: - model_name: claude-opus-4-6 litellm_params: model: claude-opus-4-6 api_key: os.environ/ANTHROPIC_API_KEY - model_name: gpt-4o litellm_params: model: gpt-4o api_key: os.environ/OPENAI_API_KEYOpenClaw tiếp tục yêu cầu claude-opus-4-6; LiteLLM xử lý việc định tuyến.
Xem mức sử dụng
# Thông tin khóacurl "http://localhost:4000/key/info" \ -H "Authorization: Bearer sk-litellm-key" # Nhật ký chi tiêucurl "http://localhost:4000/spend/logs" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY"Lưu ý về hành vi của proxy
- Theo mặc định, LiteLLM chạy tại
http://localhost:4000. - OpenClaw kết nối qua điểm cuối
/v1tương thích với OpenAI theo kiểu proxy của LiteLLM. - Việc định hình yêu cầu chỉ dành cho OpenAI gốc không áp dụng khi sử dụng URL cơ sở LiteLLM đã cấu hình:
không có
service_tier, không cóstorecủa Responses, không có gợi ý bộ nhớ đệm lời nhắc và không định hình tải trọng mức độ suy luận của OpenAI. - Các tiêu đề ghi nguồn OpenClaw ẩn (
originator,version,User-Agent) chỉ được gửi đến các điểm cuối OpenAI gốc đã xác minh, vì vậy chúng không được chèn khi dùng URL cơ sở LiteLLM tùy chỉnh.
