Providers

SGLang

SGLang 透過與 OpenAI 相容的 HTTP API 提供開放權重模型。OpenClaw 使用 openai-completions 提供者系列連線至 SGLang,並自動探索可用模型。

屬性
提供者 ID sglang
外掛 內建,enabledByDefault: true
驗證環境變數 SGLANG_API_KEY(若伺服器未啟用驗證,可使用任何非空值)
初始設定旗標 --auth-choice sglang
API 與 OpenAI 相容(openai-completions
預設基礎 URL http://127.0.0.1:30000/v1
預設模型預留值 sglang/Qwen/Qwen3-8B
串流用量 是(supportsStreamingUsage: true
定價 標記為外部免費(modelPricing.external: false

當您透過 SGLANG_API_KEY 選擇啟用時,OpenClaw 也會從 SGLang 自動探索可用模型。如果您同時設定自訂的 SGLang 基礎 URL,請在 agents.defaults.models 中使用 sglang/*,讓探索維持動態。請參閱下方的模型探索(隱含提供者)

開始使用

  • 啟動 SGLang

    啟動具有 OpenAI 相容伺服器的 SGLang。您的基礎 URL 應公開 /v1 端點(例如 /v1/models/v1/chat/completions)。SGLang 通常執行於:

    • http://127.0.0.1:30000/v1
  • 設定 API 金鑰

    如果您的伺服器未設定驗證,任何值都可使用:

    bash
    export SGLANG_API_KEY="sglang-local"
  • 執行初始設定或直接設定模型

    bash
    openclaw onboard

    或手動設定模型:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}
  • 模型探索(隱含提供者)

    當已設定 SGLANG_API_KEY(或存在驗證設定檔),且您 定義 models.providers.sglang 時,OpenClaw 會查詢:

    • GET http://127.0.0.1:30000/v1/models

    並將傳回的 ID 轉換為模型項目。

    明確設定(手動模型)

    在下列情況下使用明確設定:

    • SGLang 在不同的主機或連接埠上執行。
    • 您想固定 contextWindowmaxTokens 值。
    • 您的伺服器需要真正的 API 金鑰(或您想控制標頭)。
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "本機 SGLang 模型",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    進階設定

    代理式行為

    SGLang 會被視為代理式、與 OpenAI 相容的 /v1 後端,而非 原生 OpenAI 端點。

    行為 SGLang
    僅限 OpenAI 的請求塑形 不套用
    service_tier、Responses store、提示快取提示 不傳送
    推理相容性承載資料塑形 不套用
    隱藏的來源標頭(originatorversionUser-Agent 不會注入自訂 SGLang 基礎 URL
    疑難排解

    無法連線至伺服器

    確認伺服器正在執行並有回應:

    bash
    curl http://127.0.0.1:30000/v1/models

    驗證錯誤

    如果請求因驗證錯誤而失敗,請設定符合伺服器設定的有效 SGLANG_API_KEY,或在 models.providers.sglang 下明確設定 提供者。

    相關內容

    Was this useful?
    On this page

    On this page