Providers
LiteLLM
LiteLLM — це шлюз LLM із відкритим кодом та уніфікованим API для понад 100 постачальників моделей. Спрямовуйте OpenClaw через LiteLLM для централізованого відстеження витрат, журналювання, віртуальних ключів з обмеженнями витрат і перемикання на резервні серверні системи без зміни конфігурації OpenClaw.
Швидкий початок
Onboarding (recommended)
openclaw onboard --auth-choice litellm-api-keyДля неінтерактивного налаштування з віддаленим проксі явно передайте URL-адресу проксі:
openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \ --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"Manual setup
Start LiteLLM Proxy
pip install 'litellm[proxy]'litellm --model claude-opus-4-6Point OpenClaw to LiteLLM
export LITELLM_API_KEY="your-litellm-key"openclawКонфігурація
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", api: "openai-completions", models: [ { id: "claude-opus-4-6", name: "Claude Opus 4.6", reasoning: true, input: ["text", "image"], contextWindow: 200000, maxTokens: 64000, }, { id: "gpt-4o", name: "GPT-4o", reasoning: false, input: ["text", "image"], contextWindow: 128000, maxTokens: 8192, }, ], }, }, }, agents: { defaults: { model: { primary: "litellm/claude-opus-4-6" }, }, },}Стандартна модель, яку записує процес початкового налаштування, — litellm/claude-opus-4-6.
Генерування зображень
LiteLLM може забезпечувати роботу інструмента image_generate через сумісні з OpenAI маршрути /images/generations і
/images/edits. Стандартною моделлю зображень є gpt-image-2; налаштуйте іншу в
agents.defaults.imageGenerationModel:
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", }, }, }, agents: { defaults: { imageGenerationModel: { primary: "litellm/gpt-image-2", timeoutMs: 180_000, }, }, },}URL-адреси LiteLLM для local loopback (http://localhost:4000, 127.0.0.1, ::1, host.docker.internal) працюють
без глобального дозволу для приватної мережі. Для проксі, розміщеного в локальній мережі, установіть
models.providers.litellm.request.allowPrivateNetwork: true, оскільки ключ API надсилається на цей хост.
Розширені можливості
Virtual keys
Створіть окремий ключ для OpenClaw з обмеженнями витрат:
curl -X POST "http://localhost:4000/key/generate" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY" \ -H "Content-Type: application/json" \ -d '{ "key_alias": "openclaw", "max_budget": 50.00, "budget_duration": "monthly" }'Використовуйте згенерований ключ як LITELLM_API_KEY.
Model routing
LiteLLM може спрямовувати запити до моделей у різні серверні системи. Налаштуйте це у файлі LiteLLM config.yaml:
model_list: - model_name: claude-opus-4-6 litellm_params: model: claude-opus-4-6 api_key: os.environ/ANTHROPIC_API_KEY - model_name: gpt-4o litellm_params: model: gpt-4o api_key: os.environ/OPENAI_API_KEYOpenClaw продовжує запитувати claude-opus-4-6, а LiteLLM виконує маршрутизацію.
Viewing usage
# Key infocurl "http://localhost:4000/key/info" \ -H "Authorization: Bearer sk-litellm-key" # Spend logscurl "http://localhost:4000/spend/logs" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY"Proxy behavior notes
- За замовчуванням LiteLLM працює за адресою
http://localhost:4000. - OpenClaw підключається через сумісну з OpenAI кінцеву точку
/v1проксі LiteLLM. - Формування запитів, призначене лише для нативного OpenAI, не застосовується через налаштовану базову URL-адресу LiteLLM:
без
service_tier, безstoreдля Responses, без підказок для кешу промптів і без формування корисного навантаження для рівня інтенсивності міркування OpenAI. - Приховані заголовки атрибуції OpenClaw (
originator,version,User-Agent) надсилаються лише перевіреним нативним кінцевим точкам OpenAI, тому вони не додаються для власної базової URL-адреси LiteLLM.
