OpenClawDocs
View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

SGLang

SGLang biedt modellen met open gewichten aan via een OpenAI-compatibele HTTP-API. OpenClaw maakt verbinding met SGLang via de providerfamilie openai-completions, met automatische detectie van beschikbare modellen.

Eigenschap Waarde
Provider-id sglang
Plugin meegeleverd, enabledByDefault: true
Omgevingsvariabele voor authenticatie SGLANG_API_KEY (elke niet-lege waarde als de server geen authenticatie gebruikt)
Onboarding-vlag --auth-choice sglang
API OpenAI-compatibel (openai-completions)
Standaardbasis-URL http://127.0.0.1:30000/v1
Tijdelijke aanduiding voor standaardmodel sglang/Qwen/Qwen3-8B
Streaminggebruik Ja (supportsStreamingUsage: true)
Prijsstelling Gemarkeerd als extern gratis (modelPricing.external: false)

OpenClaw detecteert ook automatisch beschikbare modellen van SGLang wanneer u zich aanmeldt met SGLANG_API_KEY. Gebruik sglang/* in agents.defaults.models om de detectie dynamisch te houden wanneer u ook een aangepaste SGLang-basis-URL configureert. Zie Modeldetectie (impliciete provider) hieronder.

Aan de slag

  • SGLang starten

    Start SGLang met een OpenAI-compatibele server. Uw basis-URL moet /v1-eindpunten beschikbaar stellen (bijvoorbeeld /v1/models, /v1/chat/completions). SGLang draait doorgaans op:

    • http://127.0.0.1:30000/v1

  • Een API-sleutel instellen

    Elke waarde werkt als er geen authenticatie op uw server is geconfigureerd:

    bash
    export SGLANG_API_KEY="sglang-local"

  • Onboarding uitvoeren of rechtstreeks een model instellen

    bash
    openclaw onboard

    Of configureer het model handmatig:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}

    • Modeldetectie (impliciete provider)

    Wanneer SGLANG_API_KEY is ingesteld (of er een authenticatieprofiel bestaat) en u models.providers.sglang niet definieert, bevraagt OpenClaw:

    • GET http://127.0.0.1:30000/v1/models

    en zet de geretourneerde id's om in modelvermeldingen.

    Expliciete configuratie (handmatige modellen)

    Gebruik expliciete configuratie wanneer:

    • SGLang op een andere host of poort draait.
    • U de waarden voor contextWindow/maxTokens wilt vastzetten.
    • Uw server een echte API-sleutel vereist (of u de headers wilt beheren).
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Lokaal SGLang-model",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    Geavanceerde configuratie

    Proxyachtig gedrag

    SGLang wordt behandeld als een proxyachtige OpenAI-compatibele /v1-backend, niet als een native OpenAI-eindpunt.

    Gedrag SGLang
    Alleen voor OpenAI bestemde verzoekaanpassing Niet toegepast
    service_tier, store van Responses, aanwijzingen voor promptcaching Niet verzonden
    Aanpassing van payloads voor compatibiliteit met redeneren Niet toegepast
    Verborgen attributieheaders (originator, version, User-Agent) Niet geïnjecteerd bij aangepaste SGLang-basis-URL's
    Problemen oplossen

    Server niet bereikbaar

    Controleer of de server actief is en reageert:

    bash
    curl http://127.0.0.1:30000/v1/models

    Authenticatiefouten

    Als verzoeken mislukken met authenticatiefouten, stelt u een echte SGLANG_API_KEY in die overeenkomt met uw serverconfiguratie, of configureert u de provider expliciet onder models.providers.sglang.

    Gerelateerd

    Modelselectie

    Providers, modelverwijzingen en failovergedrag kiezen.
    Configuratiereferentie

    Volledig configuratieschema, inclusief providervermeldingen.
    Was this useful?
    On this page

    On this page