Providers
SGLang
SGLang مدلهای با وزنهای باز را از طریق یک API HTTP سازگار با OpenAI ارائه میکند. OpenClaw با استفاده از خانواده ارائهدهنده openai-completions و کشف خودکار مدلهای موجود، به SGLang متصل میشود.
| ویژگی | مقدار |
|---|---|
| شناسه ارائهدهنده | sglang |
| Plugin | همراه، enabledByDefault: true |
| متغیر محیطی احراز هویت | SGLANG_API_KEY (اگر سرور احراز هویت ندارد، هر مقدار غیرخالی) |
| پرچم راهاندازی اولیه | --auth-choice sglang |
| API | سازگار با OpenAI (openai-completions) |
| نشانی پایه پیشفرض | http://127.0.0.1:30000/v1 |
| جاینگهدار مدل پیشفرض | sglang/Qwen/Qwen3-8B |
| مصرف در جریانسازی | بله (supportsStreamingUsage: true) |
| قیمتگذاری | بهعنوان رایگان خارجی علامتگذاری شده (modelPricing.external: false) |
هنگامی که با SGLANG_API_KEY اعلام مشارکت میکنید، OpenClaw مدلهای موجود را نیز بهصورت خودکار از SGLang کشف میکند. اگر یک نشانی پایه سفارشی برای SGLang نیز پیکربندی میکنید، برای پویا نگهداشتن کشف مدلها از sglang/* در agents.defaults.models استفاده کنید. بخش کشف مدل (ارائهدهنده ضمنی) را در ادامه ببینید.
شروع به کار
راهاندازی SGLang
SGLang را با یک سرور سازگار با OpenAI اجرا کنید. نشانی پایه شما باید
نقطههای پایانی /v1 را ارائه کند (برای مثال /v1/models و /v1/chat/completions).
SGLang معمولاً روی نشانی زیر اجرا میشود:
http://127.0.0.1:30000/v1
تنظیم کلید API
اگر احراز هویت روی سرور شما پیکربندی نشده باشد، هر مقداری کار میکند:
export SGLANG_API_KEY="sglang-local"اجرای راهاندازی اولیه یا تنظیم مستقیم مدل
openclaw onboardیا مدل را بهصورت دستی پیکربندی کنید:
{ agents: { defaults: { model: { primary: "sglang/your-model-id" }, }, },}کشف مدل (ارائهدهنده ضمنی)
هنگامی که SGLANG_API_KEY تنظیم شده است (یا یک نمایه احراز هویت وجود دارد) و
models.providers.sglang را تعریف نکردهاید، OpenClaw درخواست زیر را ارسال میکند:
GET http://127.0.0.1:30000/v1/models
و شناسههای بازگشتی را به ورودیهای مدل تبدیل میکند.
پیکربندی صریح (مدلهای دستی)
در موارد زیر از پیکربندی صریح استفاده کنید:
- SGLang روی میزبان یا درگاه دیگری اجرا میشود.
- میخواهید مقادیر
contextWindowیاmaxTokensرا ثابت کنید. - سرور شما به یک کلید API واقعی نیاز دارد (یا میخواهید سربرگها را کنترل کنید).
{ models: { providers: { sglang: { baseUrl: "http://127.0.0.1:30000/v1", apiKey: "${SGLANG_API_KEY}", api: "openai-completions", models: [ { id: "your-model-id", name: "Local SGLang Model", reasoning: false, input: ["text"], cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 }, contextWindow: 128000, maxTokens: 8192, }, ], }, }, },}پیکربندی پیشرفته
رفتار مشابه پراکسی
با SGLang بهعنوان یک بکاند /v1 سازگار با OpenAI و مشابه پراکسی رفتار
میشود، نه یک نقطه پایانی بومی OpenAI.
| رفتار | SGLang |
|---|---|
| شکلدهی درخواست مختص OpenAI | اعمال نمیشود |
service_tier، گزینه store در Responses و راهنماییهای کش فرمان |
ارسال نمیشوند |
| شکلدهی محموله سازگاری با استدلال | اعمال نمیشود |
سربرگهای انتساب پنهان (originator، version، User-Agent) |
در نشانیهای پایه سفارشی SGLang تزریق نمیشوند |
عیبیابی
سرور قابل دسترسی نیست
بررسی کنید که سرور در حال اجرا و پاسخگویی است:
curl http://127.0.0.1:30000/v1/modelsخطاهای احراز هویت
اگر درخواستها با خطاهای احراز هویت ناموفق میشوند، یک SGLANG_API_KEY
واقعی و منطبق با پیکربندی سرور خود تنظیم کنید، یا ارائهدهنده را بهصراحت
در models.providers.sglang پیکربندی کنید.
