Providers
LiteLLM
LiteLLM은 100개 이상의 모델 제공자에 통합 API를 제공하는 오픈 소스 LLM Gateway입니다. OpenClaw 설정을 변경하지 않고도 중앙 집중식 비용 추적, 로깅, 지출 한도가 있는 가상 키, 백엔드 장애 조치를 위해 OpenClaw을 LiteLLM을 통해 라우팅할 수 있습니다.
빠른 시작
온보딩(권장)
openclaw onboard --auth-choice litellm-api-key원격 프록시를 대상으로 비대화형 설정을 수행하려면 프록시 URL을 명시적으로 전달하세요.
openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \ --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"수동 설정
LiteLLM 프록시 시작
pip install 'litellm[proxy]'litellm --model claude-opus-4-6OpenClaw을 LiteLLM에 연결
export LITELLM_API_KEY="your-litellm-key"openclaw구성
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", api: "openai-completions", models: [ { id: "claude-opus-4-6", name: "Claude Opus 4.6", reasoning: true, input: ["text", "image"], contextWindow: 200000, maxTokens: 64000, }, { id: "gpt-4o", name: "GPT-4o", reasoning: false, input: ["text", "image"], contextWindow: 128000, maxTokens: 8192, }, ], }, }, }, agents: { defaults: { model: { primary: "litellm/claude-opus-4-6" }, }, },}온보딩에서 기록하는 기본 모델은 litellm/claude-opus-4-6입니다.
이미지 생성
LiteLLM은 OpenAI 호환 /images/generations 및 /images/edits 경로를 통해 image_generate 도구의 백엔드 역할을 할 수 있습니다.
기본 이미지 모델은 gpt-image-2이며, 다른 모델을 사용하려면 agents.defaults.imageGenerationModel에서 구성하세요.
{ models: { providers: { litellm: { baseUrl: "http://localhost:4000", apiKey: "${LITELLM_API_KEY}", }, }, }, agents: { defaults: { imageGenerationModel: { primary: "litellm/gpt-image-2", timeoutMs: 180_000, }, }, },}루프백 LiteLLM URL(http://localhost:4000, 127.0.0.1, ::1, host.docker.internal)은 전역 사설 네트워크 재정의 없이 작동합니다.
LAN에서 호스팅되는 프록시의 경우 API 키가 해당 호스트로 전송되므로 models.providers.litellm.request.allowPrivateNetwork: true를 설정하세요.
고급
가상 키
OpenClaw 전용 키를 지출 한도와 함께 생성하세요.
curl -X POST "http://localhost:4000/key/generate" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY" \ -H "Content-Type: application/json" \ -d '{ "key_alias": "openclaw", "max_budget": 50.00, "budget_duration": "monthly" }'생성된 키를 LITELLM_API_KEY로 사용하세요.
모델 라우팅
LiteLLM은 모델 요청을 여러 백엔드로 라우팅할 수 있습니다. LiteLLM의 config.yaml에서 구성하세요.
model_list: - model_name: claude-opus-4-6 litellm_params: model: claude-opus-4-6 api_key: os.environ/ANTHROPIC_API_KEY - model_name: gpt-4o litellm_params: model: gpt-4o api_key: os.environ/OPENAI_API_KEYOpenClaw은 계속 claude-opus-4-6을 요청하고 LiteLLM이 라우팅을 처리합니다.
사용량 보기
# 키 정보curl "http://localhost:4000/key/info" \ -H "Authorization: Bearer sk-litellm-key" # 지출 로그curl "http://localhost:4000/spend/logs" \ -H "Authorization: Bearer $LITELLM_MASTER_KEY"프록시 동작 참고 사항
- LiteLLM은 기본적으로
http://localhost:4000에서 실행됩니다. - OpenClaw은 LiteLLM의 프록시 방식 OpenAI 호환
/v1엔드포인트를 통해 연결됩니다. - 네이티브 OpenAI 전용 요청 구성은 설정된 LiteLLM 기본 URL을 통해서는 적용되지 않습니다.
service_tier, Responses의store, 프롬프트 캐시 힌트, OpenAI 추론 노력 수준 페이로드 구성이 모두 적용되지 않습니다. - 숨겨진 OpenClaw 출처 헤더(
originator,version,User-Agent)는 검증된 네이티브 OpenAI 엔드포인트에만 전송되므로 사용자 지정 LiteLLM 기본 URL에는 삽입되지 않습니다.
