Providers

SGLang

SGLang sirve modelos de pesos abiertos mediante una API HTTP compatible con OpenAI. OpenClaw se conecta a SGLang mediante la familia de proveedores openai-completions, con detección automática de los modelos disponibles.

Propiedad Valor
Id. del proveedor sglang
Plugin incluido, enabledByDefault: true
Variable de entorno de autenticación SGLANG_API_KEY (cualquier valor no vacío si el servidor no requiere autenticación)
Opción de incorporación --auth-choice sglang
API compatible con OpenAI (openai-completions)
URL base predeterminada http://127.0.0.1:30000/v1
Marcador de posición del modelo predeterminado sglang/Qwen/Qwen3-8B
Uso durante la transmisión Sí (supportsStreamingUsage: true)
Precios marcado como externo gratuito (modelPricing.external: false)

OpenClaw también detecta automáticamente los modelos disponibles en SGLang cuando se habilita mediante SGLANG_API_KEY. Usa sglang/* en agents.defaults.models para mantener la detección dinámica cuando también configures una URL base personalizada de SGLang. Consulta Detección de modelos (proveedor implícito) más adelante.

Primeros pasos

  • Iniciar SGLang

    Inicia SGLang con un servidor compatible con OpenAI. La URL base debe exponer endpoints de /v1 (por ejemplo, /v1/models, /v1/chat/completions). SGLang suele ejecutarse en:

    • http://127.0.0.1:30000/v1
  • Establecer una clave de API

    Cualquier valor funciona si el servidor no tiene configurada la autenticación:

    bash
    export SGLANG_API_KEY="sglang-local"
  • Ejecutar la incorporación o establecer un modelo directamente

    bash
    openclaw onboard

    O configura el modelo manualmente:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}
  • Detección de modelos (proveedor implícito)

    Cuando SGLANG_API_KEY está definida (o existe un perfil de autenticación) y no defines models.providers.sglang, OpenClaw consulta:

    • GET http://127.0.0.1:30000/v1/models

    y convierte los identificadores devueltos en entradas de modelos.

    Configuración explícita (modelos manuales)

    Usa una configuración explícita cuando:

    • SGLang se ejecuta en otro host o puerto.
    • Quieres fijar los valores de contextWindow/maxTokens.
    • El servidor requiere una clave de API real (o quieres controlar los encabezados).
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Local SGLang Model",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    Configuración avanzada

    Comportamiento de tipo proxy

    SGLang se trata como un backend /v1 de tipo proxy compatible con OpenAI, no como un endpoint nativo de OpenAI.

    Comportamiento SGLang
    Adaptación de solicitudes exclusiva de OpenAI No se aplica
    service_tier, store de Responses, indicaciones de caché de prompts No se envían
    Adaptación de la carga útil para compatibilidad con razonamiento No se aplica
    Encabezados ocultos de atribución (originator, version, User-Agent) No se insertan en URL base personalizadas de SGLang
    Solución de problemas

    No se puede acceder al servidor

    Comprueba que el servidor esté en ejecución y responda:

    bash
    curl http://127.0.0.1:30000/v1/models

    Errores de autenticación

    Si las solicitudes fallan con errores de autenticación, establece una SGLANG_API_KEY real que coincida con la configuración del servidor o configura el proveedor explícitamente en models.providers.sglang.

    Contenido relacionado

    Was this useful?
    On this page

    On this page