OpenClawDocs
View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

SGLang

SGLang ให้บริการโมเดลแบบโอเพนเวตผ่าน HTTP API ที่เข้ากันได้กับ OpenAI โดย OpenClaw เชื่อมต่อกับ SGLang ด้วยตระกูลผู้ให้บริการ openai-completions พร้อมการค้นหาโมเดลที่พร้อมใช้งานโดยอัตโนมัติ

คุณสมบัติ ค่า
รหัสผู้ให้บริการ sglang
Plugin รวมมาให้แล้ว, enabledByDefault: true
ตัวแปรสภาพแวดล้อมสำหรับการยืนยันตัวตน SGLANG_API_KEY (ค่าใดก็ได้ที่ไม่ว่าง หากเซิร์ฟเวอร์ไม่มีการยืนยันตัวตน)
แฟล็กการเริ่มต้นใช้งาน --auth-choice sglang
API เข้ากันได้กับ OpenAI (openai-completions)
URL ฐานเริ่มต้น http://127.0.0.1:30000/v1
ตัวยึดตำแหน่งโมเดลเริ่มต้น sglang/Qwen/Qwen3-8B
การใช้งานแบบสตรีมมิง ใช่ (supportsStreamingUsage: true)
การกำหนดราคา ทำเครื่องหมายว่าไม่เสียค่าใช้จ่ายภายนอก (modelPricing.external: false)

นอกจากนี้ OpenClaw ยังค้นหาโมเดลที่พร้อมใช้งานจาก SGLang โดยอัตโนมัติเมื่อคุณเลือกใช้ด้วย SGLANG_API_KEY ใช้ sglang/* ใน agents.defaults.models เพื่อให้การค้นหาเป็นแบบไดนามิกต่อไป เมื่อคุณกำหนด URL ฐานของ SGLang เองด้วย โปรดดู การค้นหาโมเดล (ผู้ให้บริการโดยนัย) ด้านล่าง

เริ่มต้นใช้งาน

  • เริ่ม SGLang

    เปิดใช้ SGLang พร้อมเซิร์ฟเวอร์ที่เข้ากันได้กับ OpenAI URL ฐานของคุณควรเปิดเผย ปลายทาง /v1 (เช่น /v1/models, /v1/chat/completions) โดยทั่วไป SGLang จะทำงานที่:

    • http://127.0.0.1:30000/v1

  • ตั้งค่าคีย์ API

    หากเซิร์ฟเวอร์ของคุณไม่ได้กำหนดค่าการยืนยันตัวตน สามารถใช้ค่าใดก็ได้:

    bash
    export SGLANG_API_KEY="sglang-local"

  • เรียกใช้การเริ่มต้นใช้งานหรือตั้งค่าโมเดลโดยตรง

    bash
    openclaw onboard

    หรือกำหนดค่าโมเดลด้วยตนเอง:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}

    • การค้นหาโมเดล (ผู้ให้บริการโดยนัย)

    เมื่อตั้งค่า SGLANG_API_KEY แล้ว (หรือมีโปรไฟล์การยืนยันตัวตนอยู่) และคุณไม่ได้ กำหนด models.providers.sglang OpenClaw จะเรียกค้น:

    • GET http://127.0.0.1:30000/v1/models

    และแปลงรหัสที่ส่งกลับมาเป็นรายการโมเดล

    การกำหนดค่าอย่างชัดเจน (โมเดลแบบกำหนดเอง)

    ใช้การกำหนดค่าอย่างชัดเจนเมื่อ:

    • SGLang ทำงานบนโฮสต์หรือพอร์ตอื่น
    • คุณต้องการตรึงค่า contextWindow/maxTokens
    • เซิร์ฟเวอร์ของคุณต้องใช้คีย์ API จริง (หรือคุณต้องการควบคุมส่วนหัว)
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Local SGLang Model",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    การกำหนดค่าขั้นสูง

    ลักษณะการทำงานแบบพร็อกซี

    SGLang จะถูกปฏิบัติเป็นแบ็กเอนด์ /v1 ที่เข้ากันได้กับ OpenAI ในลักษณะพร็อกซี ไม่ใช่ ปลายทาง OpenAI แบบเนทีฟ

    ลักษณะการทำงาน SGLang
    การปรับรูปแบบคำขอเฉพาะ OpenAI ไม่ใช้
    service_tier, store ของ Responses, คำแนะนำแคชพรอมต์ ไม่ส่ง
    การปรับรูปแบบเพย์โหลดเพื่อความเข้ากันได้กับการให้เหตุผล ไม่ใช้
    ส่วนหัวการระบุแหล่งที่มาแบบซ่อน (originator, version, User-Agent) ไม่แทรกใน URL ฐาน SGLang ที่กำหนดเอง
    การแก้ไขปัญหา

    ไม่สามารถเข้าถึงเซิร์ฟเวอร์ได้

    ตรวจสอบว่าเซิร์ฟเวอร์กำลังทำงานและตอบสนอง:

    bash
    curl http://127.0.0.1:30000/v1/models

    ข้อผิดพลาดในการยืนยันตัวตน

    หากคำขอล้มเหลวเนื่องจากข้อผิดพลาดในการยืนยันตัวตน ให้ตั้งค่า SGLANG_API_KEY จริงที่ตรงกับ การกำหนดค่าเซิร์ฟเวอร์ของคุณ หรือกำหนดค่าผู้ให้บริการอย่างชัดเจนภายใต้ models.providers.sglang

    เนื้อหาที่เกี่ยวข้อง

    การเลือกโมเดล

    การเลือกผู้ให้บริการ การอ้างอิงโมเดล และลักษณะการทำงานเมื่อเกิดความล้มเหลว
    ข้อมูลอ้างอิงการกำหนดค่า

    สคีมาการกำหนดค่าแบบเต็ม รวมถึงรายการผู้ให้บริการ
    Was this useful?
    On this page

    On this page