LiteLLM

LiteLLM یک Gateway متن‌باز برای مدل‌های زبانی بزرگ است که API یکپارچه‌ای برای بیش از ۱۰۰ ارائه‌دهندهٔ مدل فراهم می‌کند. OpenClaw را از طریق LiteLLM مسیریابی کنید تا بدون تغییر پیکربندی OpenClaw، هزینه‌ها را به‌صورت متمرکز پایش کنید، رویدادها را ثبت کنید، کلیدهای مجازی با سقف هزینه بسازید و در صورت خرابی، میان سامانه‌های پشتیبان جابه‌جا شوید.

شروع سریع

openclaw onboard --auth-choice litellm-api-key

openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \  --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

pip install 'litellm[proxy]'litellm --model claude-opus-4-6

export LITELLM_API_KEY="your-litellm-key"openclaw

پیکربندی

{  models: {    providers: {      litellm: {        baseUrl: "http://localhost:4000",        apiKey: "${LITELLM_API_KEY}",        api: "openai-completions",        models: [          {            id: "claude-opus-4-6",            name: "Claude Opus 4.6",            reasoning: true,            input: ["text", "image"],            contextWindow: 200000,            maxTokens: 64000,          },          {            id: "gpt-4o",            name: "GPT-4o",            reasoning: false,            input: ["text", "image"],            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },  agents: {    defaults: {      model: { primary: "litellm/claude-opus-4-6" },    },  },}

راه‌اندازی اولیه، مدل پیش‌فرض را با مقدار litellm/claude-opus-4-6 ثبت می‌کند.

تولید تصویر

LiteLLM می‌تواند ابزار image_generate را از طریق مسیرهای سازگار با OpenAI یعنی /images/generations و /images/edits پشتیبانی کند. مدل پیش‌فرض تصویر gpt-image-2 است؛ برای انتخاب مدلی دیگر، آن را در agents.defaults.imageGenerationModel پیکربندی کنید:

{  models: {    providers: {      litellm: {        baseUrl: "http://localhost:4000",        apiKey: "${LITELLM_API_KEY}",      },    },  },  agents: {    defaults: {      imageGenerationModel: {        primary: "litellm/gpt-image-2",        timeoutMs: 180_000,      },    },  },}

نشانی‌های local loopback مربوط به LiteLLM (http://localhost:4000، 127.0.0.1، ::1، host.docker.internal) بدون لغو محدودیت سراسری شبکهٔ خصوصی کار می‌کنند. برای پراکسی میزبانی‌شده در شبکهٔ محلی، مقدار models.providers.litellm.request.allowPrivateNetwork: true را تنظیم کنید، زیرا کلید API به آن میزبان ارسال می‌شود.

پیشرفته

curl -X POST "http://localhost:4000/key/generate" \  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \  -H "Content-Type: application/json" \  -d '{    "key_alias": "openclaw",    "max_budget": 50.00,    "budget_duration": "monthly"  }'

model_list:  - model_name: claude-opus-4-6    litellm_params:      model: claude-opus-4-6      api_key: os.environ/ANTHROPIC_API_KEY   - model_name: gpt-4o    litellm_params:      model: gpt-4o      api_key: os.environ/OPENAI_API_KEY

# Key infocurl "http://localhost:4000/key/info" \  -H "Authorization: Bearer sk-litellm-key" # Spend logscurl "http://localhost:4000/spend/logs" \  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

مرتبط