Providers

LiteLLM

LiteLLM, 100'den fazla model sağlayıcısı için birleşik bir API sunan açık kaynaklı bir LLM Gateway'idir. OpenClaw yapılandırmasını değiştirmeden merkezi maliyet takibi, günlük kaydı, harcama limitli sanal anahtarlar ve arka uç yük devretme özellikleri için OpenClaw trafiğini LiteLLM üzerinden yönlendirin.

Hızlı başlangıç

Onboarding (recommended)

bash
openclaw onboard --auth-choice litellm-api-key

Uzak bir proxy ile etkileşimsiz kurulum yapmak için proxy URL'sini açıkça iletin:

bash
openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \  --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

Manual setup

  • Start LiteLLM Proxy

    bash
    pip install 'litellm[proxy]'litellm --model claude-opus-4-6
  • Point OpenClaw to LiteLLM

    bash
    export LITELLM_API_KEY="your-litellm-key"openclaw
  • Yapılandırma

    json5
    {  models: {    providers: {      litellm: {        baseUrl: "http://localhost:4000",        apiKey: "${LITELLM_API_KEY}",        api: "openai-completions",        models: [          {            id: "claude-opus-4-6",            name: "Claude Opus 4.6",            reasoning: true,            input: ["text", "image"],            contextWindow: 200000,            maxTokens: 64000,          },          {            id: "gpt-4o",            name: "GPT-4o",            reasoning: false,            input: ["text", "image"],            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },  agents: {    defaults: {      model: { primary: "litellm/claude-opus-4-6" },    },  },}

    İlk katılımın yazdığı varsayılan model litellm/claude-opus-4-6 değeridir.

    Görsel oluşturma

    LiteLLM, OpenAI uyumlu /images/generations ve /images/edits rotaları üzerinden image_generate aracının arka ucunu sağlayabilir. Varsayılan görsel modeli gpt-image-2'dir; farklı bir modeli agents.defaults.imageGenerationModel altında yapılandırın:

    json5
    {  models: {    providers: {      litellm: {        baseUrl: "http://localhost:4000",        apiKey: "${LITELLM_API_KEY}",      },    },  },  agents: {    defaults: {      imageGenerationModel: {        primary: "litellm/gpt-image-2",        timeoutMs: 180_000,      },    },  },}

    local loopback LiteLLM URL'leri (http://localhost:4000, 127.0.0.1, ::1, host.docker.internal) genel bir özel ağ geçersiz kılması olmadan çalışır. LAN üzerinde barındırılan bir proxy için API anahtarı bu ana makineye gönderildiğinden models.providers.litellm.request.allowPrivateNetwork: true ayarını yapın.

    Gelişmiş

    Virtual keys

    OpenClaw için harcama limitleri olan özel bir anahtar oluşturun:

    bash
    curl -X POST "http://localhost:4000/key/generate" \  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \  -H "Content-Type: application/json" \  -d '{    "key_alias": "openclaw",    "max_budget": 50.00,    "budget_duration": "monthly"  }'

    Oluşturulan anahtarı LITELLM_API_KEY olarak kullanın.

    Model routing

    LiteLLM, model isteklerini farklı arka uçlara yönlendirebilir. LiteLLM config.yaml dosyanızda yapılandırın:

    yaml
    model_list:  - model_name: claude-opus-4-6    litellm_params:      model: claude-opus-4-6      api_key: os.environ/ANTHROPIC_API_KEY   - model_name: gpt-4o    litellm_params:      model: gpt-4o      api_key: os.environ/OPENAI_API_KEY

    OpenClaw, claude-opus-4-6 istemeye devam eder; yönlendirmeyi LiteLLM gerçekleştirir.

    Viewing usage
    bash
    # Key infocurl "http://localhost:4000/key/info" \  -H "Authorization: Bearer sk-litellm-key" # Spend logscurl "http://localhost:4000/spend/logs" \  -H "Authorization: Bearer $LITELLM_MASTER_KEY"
    Proxy behavior notes
    • LiteLLM varsayılan olarak http://localhost:4000 üzerinde çalışır.
    • OpenClaw, LiteLLM'in proxy tarzı OpenAI uyumlu /v1 uç noktası üzerinden bağlanır.
    • Yalnızca yerel OpenAI için geçerli istek biçimlendirmesi, yapılandırılmış bir LiteLLM temel URL'si üzerinden uygulanmaz: service_tier, Responses store, istem önbelleği ipuçları veya OpenAI muhakeme eforu yük biçimlendirmesi kullanılmaz.
    • Gizli OpenClaw ilişkilendirme başlıkları (originator, version, User-Agent) yalnızca doğrulanmış yerel OpenAI uç noktalarına gönderilir; dolayısıyla özel bir LiteLLM temel URL'sine eklenmez.

    İlgili konular

    Was this useful?
    On this page

    On this page