LM Studio

LM Studio führt llama.cpp- (GGUF) oder MLX-Modelle lokal aus, entweder als GUI-App oder als Headless-Daemon llmster. Installations- und Produktdokumentation finden Sie unter lmstudio.ai.

Schnellstart

lms server start --port 1234

lms daemon up

export LM_API_TOKEN="your-lm-studio-api-token"

openclaw onboard

Ändern Sie das Standardmodell später:

openclaw models set lmstudio/qwen/qwen3.5-9b

LM-Studio-Modellschlüssel verwenden das Format author/model-name (z. B. qwen/qwen3.5-9b); bei OpenClaw-Modellreferenzen wird der Provider vorangestellt: lmstudio/qwen/qwen3.5-9b. Ermitteln Sie den genauen Schlüssel eines Modells, indem Sie den folgenden Befehl ausführen und das Feld key prüfen:

curl http://localhost:1234/api/v1/models

Nicht interaktive Ersteinrichtung

openclaw onboard --non-interactive --accept-risk --auth-choice lmstudio

Alternativ können Sie Basis-URL, Modell und API-Schlüssel explizit angeben:

openclaw onboard \  --non-interactive \  --accept-risk \  --auth-choice lmstudio \  --custom-base-url http://localhost:1234/v1 \  --lmstudio-api-key "$LM_API_TOKEN" \  --custom-model-id qwen/qwen3.5-9b

--custom-model-id erwartet den von LM Studio zurückgegebenen Modellschlüssel (z. B. qwen/qwen3.5-9b) ohne das Provider-Präfix lmstudio/. Übergeben Sie für authentifizierte Server --lmstudio-api-key (oder setzen Sie LM_API_TOKEN); lassen Sie die Option für nicht authentifizierte Server weg. OpenClaw speichert stattdessen eine lokale, nicht geheime Markierung. --custom-api-key wird aus Kompatibilitätsgründen weiterhin akzeptiert, --lmstudio-api-key wird jedoch bevorzugt.

Dadurch wird models.providers.lmstudio geschrieben und das Standardmodell auf lmstudio/<custom-model-id> gesetzt. Wenn Sie einen API-Schlüssel angeben, wird außerdem das Authentifizierungsprofil lmstudio:default geschrieben.

Bei der interaktiven Einrichtung kann zusätzlich eine bevorzugte Kontextlänge für das Laden abgefragt werden. Diese wird auf alle erkannten Modelle angewendet, die in der Konfiguration gespeichert werden.

Konfiguration

Kompatibilität der Streaming-Nutzungsdaten

LM Studio gibt bei gestreamten Antworten nicht immer ein OpenAI-konformes usage-Objekt aus. OpenClaw ermittelt die Token-Anzahl stattdessen aus Metadaten im llama.cpp-Stil unter timings.prompt_n / timings.predicted_n. Jeder OpenAI-kompatible Endpunkt, der als lokaler Endpunkt aufgelöst wird (Loopback-Host), erhält denselben Fallback. Dies umfasst weitere lokale Backends wie vLLM, SGLang, llama.cpp, LocalAI, Jan, TabbyAPI und text-generation-webui.

Kompatibilität des Denkmodus

Wenn die Erkennung über /api/v1/models von LM Studio modellspezifische Schlussfolgerungsoptionen meldet, stellt OpenClaw entsprechende reasoning_effort-Werte (none, minimal, low, medium, high, xhigh) in den Modellkompatibilitätsmetadaten bereit. Einige LM-Studio-Builds geben eine binäre UI-Option (allowed_options: ["off", "on"]) an, lehnen diese wörtlichen Werte jedoch bei /v1/chat/completions ab; OpenClaw normalisiert diese binäre Form vor dem Senden von Anfragen auf die sechsstufige Skala. Dies gilt auch für ältere gespeicherte Konfigurationen, die noch Schlussfolgerungszuordnungen mit off/on enthalten.

Explizite Konfiguration

{  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        apiKey: "${LM_API_TOKEN}",        api: "openai-completions",        models: [          {            id: "qwen/qwen3-coder-next",            name: "Qwen 3 Coder Next",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

Vorabladen deaktivieren

LM Studio unterstützt das Just-in-Time-Laden (JIT) von Modellen, bei dem Modelle bei der ersten Anfrage geladen werden. OpenClaw lädt Modelle standardmäßig über den nativen Ladeendpunkt von LM Studio vorab, was hilfreich ist, wenn JIT deaktiviert ist. Wenn stattdessen JIT, die Leerlauf-TTL und die automatische Entfernung von LM Studio den Modelllebenszyklus steuern sollen, deaktivieren Sie den Vorabladeschritt von OpenClaw:

{  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        api: "openai-completions",        params: { preload: false },        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

LAN- oder Tailnet-Host

Verwenden Sie die erreichbare Adresse des LM-Studio-Hosts, behalten Sie /v1 bei und stellen Sie sicher, dass LM Studio auf diesem Rechner nicht ausschließlich an die Loopback-Adresse gebunden ist:

{  models: {    providers: {      lmstudio: {        baseUrl: "http://gpu-box.local:1234/v1",        apiKey: "lmstudio",        api: "openai-completions",        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

lmstudio vertraut seinem konfigurierten Endpunkt automatisch für Modellanfragen, einschließlich Loopback-, LAN- und Tailnet-Hosts (mit Ausnahme von Metadaten- und Link-Local-Ursprüngen). Jeder benutzerdefinierte/lokale OpenAI-kompatible Provider-Eintrag erhält dasselbe Vertrauen für den exakten Ursprung. Anfragen an einen anderen privaten Host oder Port erfordern weiterhin models.providers.<id>.request.allowPrivateNetwork: true; setzen Sie den Wert auf false, um das standardmäßige Vertrauen zu deaktivieren.

Fehlerbehebung

LM Studio wird nicht erkannt

Stellen Sie sicher, dass LM Studio ausgeführt wird:

lms server start --port 1234

Wenn die Authentifizierung aktiviert ist, setzen Sie außerdem LM_API_TOKEN. Prüfen Sie, ob die API erreichbar ist:

curl http://localhost:1234/api/v1/models

Authentifizierungsfehler (HTTP 401)

• Prüfen Sie, ob LM_API_TOKEN mit dem in LM Studio konfigurierten Schlüssel übereinstimmt.
• Siehe LM-Studio-Authentifizierung.
• Wenn der Server keine Authentifizierung erfordert, lassen Sie den Schlüssel während der Einrichtung leer.

Verwandte Themen

• Modellauswahl
• Ollama
• Lokale Modelle