Providers

SGLang

SGLang fournit des modèles à poids ouverts via une API HTTP compatible avec OpenAI. OpenClaw se connecte à SGLang à l’aide de la famille de fournisseurs openai-completions, avec découverte automatique des modèles disponibles.

Propriété Valeur
Identifiant du fournisseur sglang
Plugin intégré, enabledByDefault: true
Variable d’environnement d’authentification SGLANG_API_KEY (toute valeur non vide si le serveur n’utilise pas d’authentification)
Option d’intégration --auth-choice sglang
API compatible avec OpenAI (openai-completions)
URL de base par défaut http://127.0.0.1:30000/v1
Modèle par défaut indicatif sglang/Qwen/Qwen3-8B
Utilisation en streaming Oui (supportsStreamingUsage: true)
Tarification Marquée comme externe gratuite (modelPricing.external: false)

OpenClaw découvre automatiquement également les modèles disponibles auprès de SGLang lorsque vous activez cette fonctionnalité avec SGLANG_API_KEY. Utilisez sglang/* dans agents.defaults.models pour conserver une découverte dynamique lorsque vous configurez également une URL de base SGLang personnalisée. Consultez la section Découverte des modèles (fournisseur implicite) ci-dessous.

Prise en main

  • Démarrer SGLang

    Lancez SGLang avec un serveur compatible avec OpenAI. Votre URL de base doit exposer des points de terminaison /v1 (par exemple /v1/models, /v1/chat/completions). SGLang s’exécute généralement à l’adresse suivante :

    • http://127.0.0.1:30000/v1
  • Définir une clé d’API

    Toute valeur convient si aucune authentification n’est configurée sur votre serveur :

    bash
    export SGLANG_API_KEY="sglang-local"
  • Exécuter l’intégration ou définir directement un modèle

    bash
    openclaw onboard

    Vous pouvez également configurer le modèle manuellement :

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}
  • Découverte des modèles (fournisseur implicite)

    Lorsque SGLANG_API_KEY est définie (ou qu’un profil d’authentification existe) et que vous ne définissez pas models.providers.sglang, OpenClaw interroge :

    • GET http://127.0.0.1:30000/v1/models

    puis convertit les identifiants renvoyés en entrées de modèles.

    Configuration explicite (modèles manuels)

    Utilisez une configuration explicite dans les cas suivants :

    • SGLang s’exécute sur un autre hôte ou port.
    • Vous souhaitez fixer les valeurs de contextWindow et maxTokens.
    • Votre serveur exige une véritable clé d’API (ou vous souhaitez contrôler les en-têtes).
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Local SGLang Model",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    Configuration avancée

    Comportement de type proxy

    SGLang est traité comme un serveur dorsal /v1 compatible avec OpenAI et de type proxy, et non comme un point de terminaison OpenAI natif.

    Comportement SGLang
    Mise en forme des requêtes propre à OpenAI Non appliquée
    service_tier, store de Responses, indications de cache des invites Non envoyés
    Mise en forme de la charge utile pour la compatibilité du raisonnement Non appliquée
    En-têtes d’attribution masqués (originator, version, User-Agent) Non injectés pour les URL de base SGLang personnalisées
    Dépannage

    Serveur inaccessible

    Vérifiez que le serveur est en cours d’exécution et qu’il répond :

    bash
    curl http://127.0.0.1:30000/v1/models

    Erreurs d’authentification

    Si les requêtes échouent en raison d’erreurs d’authentification, définissez une véritable SGLANG_API_KEY correspondant à la configuration de votre serveur, ou configurez explicitement le fournisseur sous models.providers.sglang.

    Ressources associées

    Was this useful?
    On this page

    On this page