Providers
LiteLLM
LiteLLM 是一個開源的大型語言模型閘道,提供統一 API,可連接 100 多個模型供應商。將 OpenClaw 經由 LiteLLM 路由,即可集中追蹤成本、記錄日誌、使用設有支出上限的虛擬金鑰,並在不變更 OpenClaw 設定的情況下進行後端容錯移轉。
快速開始
初始設定(建議)
openclaw onboard --auth-choice litellm-api-key若要以非互動方式設定遠端代理,請明確傳入代理 URL:
openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \ --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"手動設定
啟動 LiteLLM 代理
pip install 'litellm[proxy]'litellm --model claude-opus-4-6將 OpenClaw 指向 LiteLLM
export LITELLM_API_KEY="your-litellm-key"openclaw設定
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", api: "openai-completions", models: [ { id: "claude-opus-4-6", name: "Claude Opus 4.6", reasoning: true, input: ["text", "image"], contextWindow: 200000, maxTokens: 64000, }, { id: "gpt-4o", name: "GPT-4o", reasoning: false, input: ["text", "image"], contextWindow: 128000, maxTokens: 8192, }, ], }, }, }, agents: { defaults: { model: { primary: "litellm/claude-opus-4-6" }, }, },}初始設定預設寫入的模型為 litellm/claude-opus-4-6。
圖像生成
LiteLLM 可透過與 OpenAI 相容的 /images/generations 和 /images/edits 路由,為 image_generate 工具提供後端支援。預設圖像模型為 gpt-image-2;若要使用其他模型,請在 agents.defaults.imageGenerationModel 下設定:
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", }, }, }, agents: { defaults: { imageGenerationModel: { primary: "litellm/gpt-image-2", timeoutMs: 180_000, }, }, },}本機回送 LiteLLM URL(http://localhost:4000、127.0.0.1、::1、host.docker.internal)無須全域私人網路覆寫即可運作。若代理架設於區域網路,請設定 models.providers.litellm.request.allowPrivateNetwork: true,因為 API 金鑰會傳送至該主機。
進階設定
虛擬金鑰
為 OpenClaw 建立設有支出上限的專用金鑰:
curl -X POST "http://localhost:4000/key/generate" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY" \ -H "Content-Type: application/json" \ -d '{ "key_alias": "openclaw", "max_budget": 50.00, "budget_duration": "monthly" }'將產生的金鑰用作 LITELLM_API_KEY。
模型路由
LiteLLM 可將模型請求路由至不同後端。請在 LiteLLM 的 config.yaml 中設定:
model_list: - model_name: claude-opus-4-6 litellm_params: model: claude-opus-4-6 api_key: os.environ/ANTHROPIC_API_KEY - model_name: gpt-4o litellm_params: model: gpt-4o api_key: os.environ/OPENAI_API_KEYOpenClaw 會持續請求 claude-opus-4-6;路由則由 LiteLLM 處理。
檢視用量
# 金鑰資訊curl "http://localhost:4000/key/info" \ -H "Authorization: Bearer sk-litellm-key" # 支出日誌curl "http://localhost:4000/spend/logs" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY"代理行為注意事項
- LiteLLM 預設在
http://localhost:4000上執行。 - OpenClaw 透過 LiteLLM 代理形式且與 OpenAI 相容的
/v1端點連線。 - 透過已設定的 LiteLLM 基底 URL 時,不會套用僅限原生 OpenAI 的請求格式調整:
不包含
service_tier、Responsesstore、提示快取提示,也不會調整 OpenAI 推理強度的 承載資料格式。 - 隱藏的 OpenClaw 歸屬標頭(
originator、version、User-Agent)只會傳送至 經驗證的原生 OpenAI 端點,因此不會注入自訂的 LiteLLM 基底 URL。
相關內容
Was this useful?