OpenClawDocs
View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

SGLang

SGLang distribuisce modelli open-weight tramite un'API HTTP compatibile con OpenAI. OpenClaw si connette a SGLang utilizzando la famiglia di provider openai-completions, con rilevamento automatico dei modelli disponibili.

Proprietà Valore
ID del provider sglang
Plugin incluso, enabledByDefault: true
Variabile di ambiente di autenticazione SGLANG_API_KEY (qualsiasi valore non vuoto se il server non richiede autenticazione)
Flag di configurazione iniziale --auth-choice sglang
API compatibile con OpenAI (openai-completions)
URL di base predefinito http://127.0.0.1:30000/v1
Segnaposto del modello predefinito sglang/Qwen/Qwen3-8B
Utilizzo dello streaming Sì (supportsStreamingUsage: true)
Prezzi Contrassegnato come esterno gratuito (modelPricing.external: false)

OpenClaw inoltre rileva automaticamente i modelli disponibili da SGLang quando si aderisce impostando SGLANG_API_KEY. Usa sglang/* in agents.defaults.models per mantenere dinamico il rilevamento quando configuri anche un URL di base SGLang personalizzato. Consulta Rilevamento dei modelli (provider implicito) più avanti.

Per iniziare

  • Avvia SGLang

    Avvia SGLang con un server compatibile con OpenAI. L'URL di base deve esporre gli endpoint /v1 (ad esempio /v1/models, /v1/chat/completions). SGLang viene comunemente eseguito su:

    • http://127.0.0.1:30000/v1

  • Imposta una chiave API

    Qualsiasi valore è valido se sul server non è configurata l'autenticazione:

    bash
    export SGLANG_API_KEY="sglang-local"

  • Esegui la configurazione iniziale o imposta direttamente un modello

    bash
    openclaw onboard

    In alternativa, configura manualmente il modello:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}

    • Rilevamento dei modelli (provider implicito)

    Quando SGLANG_API_KEY è impostata (o esiste un profilo di autenticazione) e non definisci models.providers.sglang, OpenClaw interroga:

    • GET http://127.0.0.1:30000/v1/models

    e converte gli ID restituiti in voci di modello.

    Configurazione esplicita (modelli manuali)

    Usa una configurazione esplicita quando:

    • SGLang viene eseguito su un host o una porta diversi.
    • Vuoi fissare i valori contextWindow/maxTokens.
    • Il server richiede una chiave API reale (o vuoi controllare le intestazioni).
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Modello SGLang locale",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    Configurazione avanzata

    Comportamento in stile proxy

    SGLang viene trattato come un backend /v1 in stile proxy compatibile con OpenAI, non come un endpoint OpenAI nativo.

    Comportamento SGLang
    Formattazione delle richieste esclusiva di OpenAI Non applicata
    service_tier, store di Responses, suggerimenti per la cache dei prompt Non inviati
    Formattazione del payload per la compatibilità del ragionamento Non applicata
    Intestazioni di attribuzione nascoste (originator, version, User-Agent) Non inserite negli URL di base SGLang personalizzati
    Risoluzione dei problemi

    Server non raggiungibile

    Verifica che il server sia in esecuzione e risponda:

    bash
    curl http://127.0.0.1:30000/v1/models

    Errori di autenticazione

    Se le richieste non riescono a causa di errori di autenticazione, imposta una SGLANG_API_KEY reale che corrisponda alla configurazione del server oppure configura esplicitamente il provider in models.providers.sglang.

    Argomenti correlati

    Selezione del modello

    Scelta dei provider, dei riferimenti ai modelli e del comportamento di failover.
    Riferimento della configurazione

    Schema di configurazione completo, incluse le voci dei provider.
    Was this useful?
    On this page

    On this page