Providers
SGLang
SGLang обслуговує моделі з відкритими вагами через HTTP API, сумісний з OpenAI. OpenClaw підключається до SGLang за допомогою сімейства провайдерів openai-completions з автоматичним виявленням доступних моделей.
| Властивість | Значення |
|---|---|
| Ідентифікатор провайдера | sglang |
| Plugin | вбудований, enabledByDefault: true |
| Змінна середовища автентифікації | SGLANG_API_KEY (будь-яке непорожнє значення, якщо сервер не вимагає автентифікації) |
| Прапорець початкового налаштування | --auth-choice sglang |
| API | сумісний з OpenAI (openai-completions) |
| Базова URL-адреса за замовчуванням | http://127.0.0.1:30000/v1 |
| Заповнювач моделі за замовчуванням | sglang/Qwen/Qwen3-8B |
| Використання потокового передавання | Так (supportsStreamingUsage: true) |
| Ціноутворення | позначено як безплатне зовнішнє (modelPricing.external: false) |
OpenClaw також автоматично виявляє доступні моделі в SGLang, коли ви погоджуєтеся на це за допомогою SGLANG_API_KEY. Використовуйте sglang/* у agents.defaults.models, щоб зберегти динамічне виявлення, якщо ви також налаштовуєте власну базову URL-адресу SGLang. Див. розділ Виявлення моделей (неявний провайдер) нижче.
Початок роботи
Запустіть SGLang
Запустіть SGLang із сервером, сумісним з OpenAI. Ваша базова URL-адреса має надавати
кінцеві точки /v1 (наприклад, /v1/models, /v1/chat/completions). Зазвичай
SGLang працює за адресою:
http://127.0.0.1:30000/v1
Задайте ключ API
Якщо на вашому сервері не налаштовано автентифікацію, підійде будь-яке значення:
export SGLANG_API_KEY="sglang-local"Запустіть початкове налаштування або задайте модель безпосередньо
openclaw onboardАбо налаштуйте модель вручну:
{ agents: { defaults: { model: { primary: "sglang/your-model-id" }, }, },}Виявлення моделей (неявний провайдер)
Коли задано SGLANG_API_KEY (або існує профіль автентифікації) і ви не
визначили models.providers.sglang, OpenClaw надсилає запит до:
GET http://127.0.0.1:30000/v1/models
і перетворює повернені ідентифікатори на записи моделей.
Явна конфігурація (моделі, задані вручну)
Використовуйте явну конфігурацію, коли:
- SGLang працює на іншому хості або порту.
- Потрібно зафіксувати значення
contextWindow/maxTokens. - Ваш сервер вимагає справжній ключ API (або ви хочете керувати заголовками).
{ models: { providers: { sglang: { baseUrl: "http://127.0.0.1:30000/v1", apiKey: "${SGLANG_API_KEY}", api: "openai-completions", models: [ { id: "your-model-id", name: "Local SGLang Model", reasoning: false, input: ["text"], cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 }, contextWindow: 128000, maxTokens: 8192, }, ], }, }, },}Розширена конфігурація
Поведінка в режимі проксі
SGLang розглядається як сумісна з OpenAI серверна частина /v1, що працює в режимі проксі, а не як
нативна кінцева точка OpenAI.
| Поведінка | SGLang |
|---|---|
| Формування запитів лише для OpenAI | Не застосовується |
service_tier, store для Responses, підказки кешу промптів |
Не надсилаються |
| Формування корисного навантаження для сумісності з міркуванням | Не застосовується |
Приховані заголовки атрибуції (originator, version, User-Agent) |
Не додаються для власних базових URL-адрес SGLang |
Усунення несправностей
Сервер недоступний
Переконайтеся, що сервер запущений і відповідає:
curl http://127.0.0.1:30000/v1/modelsПомилки автентифікації
Якщо запити завершуються помилками автентифікації, задайте справжній SGLANG_API_KEY, який відповідає
конфігурації вашого сервера, або явно налаштуйте провайдера в
models.providers.sglang.
