Providers

LM Studio

LM Studio 可在本機執行 llama.cpp(GGUF)或 MLX 模型,並可作為 GUI 應用程式或無介面的 llmster 常駐程式使用。安裝與產品文件請參閱 lmstudio.ai

快速開始

  • 安裝並啟動伺服器

    安裝 LM Studio(桌面版)或 llmster(無介面版),然後啟動伺服器:

    bash
    lms server start --port 1234

    或執行無介面常駐程式:

    bash
    lms daemon up

    如果使用桌面應用程式,請啟用 JIT 以順暢載入模型;請參閱 LM Studio JIT 與 TTL 指南

  • 若已啟用驗證,請設定 API 金鑰

    bash
    export LM_API_TOKEN="your-lm-studio-api-token"

    如果已停用 LM Studio 驗證,請在設定期間將 API 金鑰留空。請參閱 LM Studio 驗證

  • 執行初始設定

    bash
    openclaw onboard

    選擇 LM Studio,然後在 Default model 提示中選取模型。

  • 稍後可變更預設模型:

    bash
    openclaw models set lmstudio/qwen/qwen3.5-9b

    LM Studio 模型金鑰採用 author/model-name 格式(例如 qwen/qwen3.5-9b);OpenClaw 模型參照 會加上提供者前綴:lmstudio/qwen/qwen3.5-9b。若要找出模型的確切金鑰,請執行下列 命令並查看 key 欄位:

    bash
    curl http://localhost:1234/api/v1/models

    非互動式初始設定

    bash
    openclaw onboard --non-interactive --accept-risk --auth-choice lmstudio

    或者明確指定基礎 URL、模型與 API 金鑰:

    bash
    openclaw onboard \  --non-interactive \  --accept-risk \  --auth-choice lmstudio \  --custom-base-url http://localhost:1234/v1 \  --lmstudio-api-key "$LM_API_TOKEN" \  --custom-model-id qwen/qwen3.5-9b

    --custom-model-id 接受 LM Studio 傳回的模型金鑰(例如 qwen/qwen3.5-9b),不包含 lmstudio/ 提供者前綴。對於需要驗證的伺服器,請傳入 --lmstudio-api-key(或設定 LM_API_TOKEN); 對於不需要驗證的伺服器則省略此項,OpenClaw 會改為儲存本機非機密標記。 為了相容性,仍接受 --custom-api-key,但建議使用 --lmstudio-api-key

    這會寫入 models.providers.lmstudio,並將預設模型設為 lmstudio/<custom-model-id>。 提供 API 金鑰時,也會寫入 lmstudio:default 驗證設定檔。

    互動式設定還可以提示輸入偏好的載入上下文長度,並將其套用至儲存到設定中的 所有已探索模型。

    設定

    串流用量相容性

    LM Studio 不一定會在串流回應中產生符合 OpenAI 格式的 usage 物件。OpenClaw 會改從 llama.cpp 格式的 timings.prompt_ntimings.predicted_n 中繼資料 還原權杖計數。任何解析為本機端點(local loopback 主機)的 OpenAI 相容端點都會使用相同的 備援機制,因此也涵蓋 vLLM、SGLang、llama.cpp、LocalAI、Jan、TabbyAPI 和 text-generation-webui 等其他本機後端。

    思考相容性

    當 LM Studio 的 /api/v1/models 探索功能回報模型專屬的推理選項時,OpenClaw 會在模型相容性中繼資料中公開對應的 reasoning_effort 值(noneminimallowmediumhighxhigh)。 部分 LM Studio 版本會公布二元 UI 選項(allowed_options: ["off", "on"]),但在 /v1/chat/completions 上拒絕這些字面值;OpenClaw 會在傳送要求前, 將此二元形式正規化為六級尺度,包括仍含有 offon 推理對應表的舊版已儲存設定。

    明確設定

    json5
    {  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        apiKey: "${LM_API_TOKEN}",        api: "openai-completions",        models: [          {            id: "qwen/qwen3-coder-next",            name: "Qwen 3 Coder Next",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    停用預先載入

    LM Studio 支援即時(JIT)模型載入,會在第一次要求時載入模型。OpenClaw 預設會透過 LM Studio 的原生載入端點預先載入模型,這在停用 JIT 時很有幫助。 若要改由 LM Studio 的 JIT、閒置 TTL 與自動移除行為管理模型生命週期, 請停用 OpenClaw 的預先載入步驟:

    json5
    {  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        api: "openai-completions",        params: { preload: false },        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

    區域網路或 tailnet 主機

    使用 LM Studio 主機可連線的位址、保留 /v1,並確認該機器上的 LM Studio 不僅繫結至 local loopback:

    json5
    {  models: {    providers: {      lmstudio: {        baseUrl: "http://gpu-box.local:1234/v1",        apiKey: "lmstudio",        api: "openai-completions",        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

    lmstudio 會自動信任其設定的端點以傳送模型要求,包括 local loopback、 區域網路與 tailnet 主機(中繼資料/連結本機來源除外)。任何自訂/本機 OpenAI 相容 提供者項目都會獲得相同的精確來源信任。傳送至不同私人主機或連接埠的要求仍 需要設定 models.providers.<id>.request.allowPrivateNetwork: true;若要停用 預設信任,請將其設為 false

    疑難排解

    未偵測到 LM Studio

    確認 LM Studio 正在執行:

    bash
    lms server start --port 1234

    如果已啟用驗證,也請設定 LM_API_TOKEN。確認 API 可連線:

    bash
    curl http://localhost:1234/api/v1/models

    驗證錯誤(HTTP 401)

    • 檢查 LM_API_TOKEN 是否符合 LM Studio 中設定的金鑰。
    • 請參閱 LM Studio 驗證
    • 如果伺服器不需要驗證,請在設定期間將金鑰留空。

    相關內容

    Was this useful?
    On this page

    On this page