Providers

SGLang

O SGLang disponibiliza modelos de pesos abertos por meio de uma API HTTP compatível com a OpenAI. O OpenClaw se conecta ao SGLang usando a família de provedores openai-completions, com descoberta automática dos modelos disponíveis.

Propriedade Valor
ID do provedor sglang
Plugin incluído, enabledByDefault: true
Variável de ambiente de autenticação SGLANG_API_KEY (qualquer valor não vazio se o servidor não tiver autenticação)
Opção de integração inicial --auth-choice sglang
API compatível com a OpenAI (openai-completions)
URL base padrão http://127.0.0.1:30000/v1
Espaço reservado do modelo padrão sglang/Qwen/Qwen3-8B
Uso durante streaming Sim (supportsStreamingUsage: true)
Preços Marcado como externo e gratuito (modelPricing.external: false)

O OpenClaw também descobre automaticamente os modelos disponíveis no SGLang quando você habilita a integração com SGLANG_API_KEY. Use sglang/* em agents.defaults.models para manter a descoberta dinâmica quando também configurar uma URL base personalizada do SGLang. Consulte Descoberta de modelos (provedor implícito) abaixo.

Primeiros passos

  • Iniciar o SGLang

    Inicie o SGLang com um servidor compatível com a OpenAI. Sua URL base deve expor endpoints /v1 (por exemplo, /v1/models, /v1/chat/completions). O SGLang geralmente é executado em:

    • http://127.0.0.1:30000/v1
  • Definir uma chave de API

    Qualquer valor funciona se nenhuma autenticação estiver configurada no servidor:

    bash
    export SGLANG_API_KEY="sglang-local"
  • Executar a integração inicial ou definir um modelo diretamente

    bash
    openclaw onboard

    Ou configure o modelo manualmente:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}
  • Descoberta de modelos (provedor implícito)

    Quando SGLANG_API_KEY está definida (ou existe um perfil de autenticação) e você não define models.providers.sglang, o OpenClaw consulta:

    • GET http://127.0.0.1:30000/v1/models

    e converte os IDs retornados em entradas de modelo.

    Configuração explícita (modelos manuais)

    Use a configuração explícita quando:

    • O SGLang for executado em outro host ou porta.
    • Você quiser fixar os valores de contextWindow/maxTokens.
    • Seu servidor exigir uma chave de API real (ou você quiser controlar os cabeçalhos).
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Modelo SGLang local",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    Configuração avançada

    Comportamento de proxy

    O SGLang é tratado como um backend /v1 compatível com a OpenAI no estilo de proxy, e não como um endpoint nativo da OpenAI.

    Comportamento SGLang
    Formatação de solicitações exclusiva da OpenAI Não aplicada
    service_tier, store da Responses, dicas de cache de prompt Não enviados
    Formatação da carga útil para compatibilidade com raciocínio Não aplicada
    Cabeçalhos ocultos de atribuição (originator, version, User-Agent) Não injetados em URLs base personalizadas do SGLang
    Solução de problemas

    Servidor inacessível

    Verifique se o servidor está em execução e respondendo:

    bash
    curl http://127.0.0.1:30000/v1/models

    Erros de autenticação

    Se as solicitações falharem com erros de autenticação, defina uma SGLANG_API_KEY real que corresponda à configuração do servidor ou configure o provedor explicitamente em models.providers.sglang.

    Relacionado

    Was this useful?
    On this page

    On this page