Providers
SGLang
SGLang 透過與 OpenAI 相容的 HTTP API 提供開放權重模型。OpenClaw 使用 openai-completions 提供者系列連線至 SGLang,並自動探索可用模型。
| 屬性 | 值 |
|---|---|
| 提供者 ID | sglang |
| 外掛 | 內建,enabledByDefault: true |
| 驗證環境變數 | SGLANG_API_KEY(若伺服器未啟用驗證,可使用任何非空值) |
| 初始設定旗標 | --auth-choice sglang |
| API | 與 OpenAI 相容(openai-completions) |
| 預設基礎 URL | http://127.0.0.1:30000/v1 |
| 預設模型預留值 | sglang/Qwen/Qwen3-8B |
| 串流用量 | 是(supportsStreamingUsage: true) |
| 定價 | 標記為外部免費(modelPricing.external: false) |
當您透過 SGLANG_API_KEY 選擇啟用時,OpenClaw 也會從 SGLang 自動探索可用模型。如果您同時設定自訂的 SGLang 基礎 URL,請在 agents.defaults.models 中使用 sglang/*,讓探索維持動態。請參閱下方的模型探索(隱含提供者)。
開始使用
啟動 SGLang
啟動具有 OpenAI 相容伺服器的 SGLang。您的基礎 URL 應公開
/v1 端點(例如 /v1/models、/v1/chat/completions)。SGLang
通常執行於:
http://127.0.0.1:30000/v1
設定 API 金鑰
如果您的伺服器未設定驗證,任何值都可使用:
export SGLANG_API_KEY="sglang-local"執行初始設定或直接設定模型
openclaw onboard或手動設定模型:
{ agents: { defaults: { model: { primary: "sglang/your-model-id" }, }, },}模型探索(隱含提供者)
當已設定 SGLANG_API_KEY(或存在驗證設定檔),且您未
定義 models.providers.sglang 時,OpenClaw 會查詢:
GET http://127.0.0.1:30000/v1/models
並將傳回的 ID 轉換為模型項目。
明確設定(手動模型)
在下列情況下使用明確設定:
- SGLang 在不同的主機或連接埠上執行。
- 您想固定
contextWindow/maxTokens值。 - 您的伺服器需要真正的 API 金鑰(或您想控制標頭)。
{ models: { providers: { sglang: { baseUrl: "http://127.0.0.1:30000/v1", apiKey: "${SGLANG_API_KEY}", api: "openai-completions", models: [ { id: "your-model-id", name: "本機 SGLang 模型", reasoning: false, input: ["text"], cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 }, contextWindow: 128000, maxTokens: 8192, }, ], }, }, },}進階設定
代理式行為
SGLang 會被視為代理式、與 OpenAI 相容的 /v1 後端,而非
原生 OpenAI 端點。
| 行為 | SGLang |
|---|---|
| 僅限 OpenAI 的請求塑形 | 不套用 |
service_tier、Responses store、提示快取提示 |
不傳送 |
| 推理相容性承載資料塑形 | 不套用 |
隱藏的來源標頭(originator、version、User-Agent) |
不會注入自訂 SGLang 基礎 URL |
疑難排解
無法連線至伺服器
確認伺服器正在執行並有回應:
curl http://127.0.0.1:30000/v1/models驗證錯誤
如果請求因驗證錯誤而失敗,請設定符合伺服器設定的有效
SGLANG_API_KEY,或在 models.providers.sglang 下明確設定
提供者。
相關內容
Was this useful?