LM Studio

LM Studio는 llama.cpp(GGUF) 또는 MLX 모델을 GUI 앱이나 헤드리스 llmster 데몬으로 로컬에서 실행합니다. 설치 및 제품 문서는 lmstudio.ai를 참조하세요.

빠른 시작

lms server start --port 1234

lms daemon up

export LM_API_TOKEN="your-lm-studio-api-token"

openclaw onboard

나중에 기본 모델을 변경하려면 다음을 실행합니다.

openclaw models set lmstudio/qwen/qwen3.5-9b

LM Studio 모델 키는 author/model-name 형식(예: qwen/qwen3.5-9b)을 사용하며, OpenClaw 모델 참조에는 제공자가 앞에 붙습니다(lmstudio/qwen/qwen3.5-9b). 모델의 정확한 키를 찾으려면 아래 명령을 실행하고 key 필드를 확인하세요.

curl http://localhost:1234/api/v1/models

비대화형 온보딩

openclaw onboard --non-interactive --accept-risk --auth-choice lmstudio

또는 기본 URL, 모델, API 키를 명시적으로 지정합니다.

openclaw onboard \  --non-interactive \  --accept-risk \  --auth-choice lmstudio \  --custom-base-url http://localhost:1234/v1 \  --lmstudio-api-key "$LM_API_TOKEN" \  --custom-model-id qwen/qwen3.5-9b

--custom-model-id에는 lmstudio/ 제공자 접두사 없이 LM Studio가 반환한 모델 키(예: qwen/qwen3.5-9b)를 지정합니다. 인증된 서버에는 --lmstudio-api-key를 전달하거나 LM_API_TOKEN을 설정하세요. 인증되지 않은 서버에는 이를 생략하면 OpenClaw가 대신 로컬 비밀 정보가 아닌 마커를 저장합니다. 호환성을 위해 --custom-api-key도 계속 사용할 수 있지만 --lmstudio-api-key 사용을 권장합니다.

이 명령은 models.providers.lmstudio를 작성하고 기본 모델을 lmstudio/<custom-model-id>로 설정합니다. API 키를 제공하면 lmstudio:default 인증 프로필도 작성합니다.

대화형 설정에서는 기본 로드 컨텍스트 길이를 추가로 묻고, 검색하여 구성에 저장하는 모든 모델에 이를 적용할 수 있습니다.

구성

스트리밍 사용량 호환성

LM Studio는 스트리밍 응답에 OpenAI 형식의 usage 객체를 항상 포함하지는 않습니다. OpenClaw는 대신 llama.cpp 형식의 timings.prompt_n / timings.predicted_n 메타데이터에서 토큰 수를 복구합니다. 로컬 엔드포인트(local loopback 호스트)로 확인되는 모든 OpenAI 호환 엔드포인트에는 동일한 대체 처리가 적용되며, vLLM, SGLang, llama.cpp, LocalAI, Jan, TabbyAPI, text-generation-webui 같은 다른 로컬 백엔드도 포함됩니다.

사고 호환성

LM Studio의 /api/v1/models 검색에서 모델별 추론 옵션을 보고하면 OpenClaw는 모델 호환성 메타데이터에 일치하는 reasoning_effort 값(none, minimal, low, medium, high, xhigh)을 노출합니다. 일부 LM Studio 빌드는 이진 UI 옵션(allowed_options: ["off", "on"])을 표시하지만 /v1/chat/completions에서는 해당 리터럴 값을 거부합니다. OpenClaw는 요청을 보내기 전에 이 이진 형식을 6단계 척도로 정규화하며, off/on 추론 매핑이 여전히 포함된 이전 저장 구성에도 이를 적용합니다.

명시적 구성

{  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        apiKey: "${LM_API_TOKEN}",        api: "openai-completions",        models: [          {            id: "qwen/qwen3-coder-next",            name: "Qwen 3 Coder Next",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

사전 로드 비활성화

LM Studio는 첫 요청 시 모델을 로드하는 JIT(Just-In-Time) 모델 로딩을 지원합니다. OpenClaw는 기본적으로 LM Studio의 네이티브 로드 엔드포인트를 통해 모델을 사전 로드하며, 이는 JIT가 비활성화된 경우 유용합니다. 대신 LM Studio의 JIT, 유휴 TTL 및 자동 제거 동작이 모델 수명 주기를 관리하도록 하려면 OpenClaw의 사전 로드 단계를 비활성화하세요.

{  models: {    providers: {      lmstudio: {        baseUrl: "http://localhost:1234/v1",        api: "openai-completions",        params: { preload: false },        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

LAN 또는 테일넷 호스트

LM Studio 호스트에서 연결 가능한 주소를 사용하고 /v1을 유지하며, 해당 컴퓨터에서 LM Studio가 local loopback 외부에도 바인딩되어 있는지 확인하세요.

{  models: {    providers: {      lmstudio: {        baseUrl: "http://gpu-box.local:1234/v1",        apiKey: "lmstudio",        api: "openai-completions",        models: [{ id: "qwen/qwen3.5-9b" }],      },    },  },}

lmstudio는 메타데이터/링크 로컬 출처를 제외하고 local loopback, LAN 및 테일넷 호스트를 포함하여 구성된 엔드포인트를 모델 요청 대상으로 자동 신뢰합니다. 모든 사용자 지정/로컬 OpenAI 호환 제공자 항목에도 동일한 정확한 출처 신뢰가 적용됩니다. 다른 비공개 호스트나 포트로 보내는 요청에는 여전히 models.providers.<id>.request.allowPrivateNetwork: true가 필요하며, 기본 신뢰를 사용하지 않으려면 이를 false로 설정하세요.

문제 해결

LM Studio가 감지되지 않음

LM Studio가 실행 중인지 확인하세요.

lms server start --port 1234

인증이 활성화되어 있으면 LM_API_TOKEN도 설정하세요. API에 연결할 수 있는지 확인합니다.

curl http://localhost:1234/api/v1/models

인증 오류(HTTP 401)

• LM_API_TOKEN이 LM Studio에 구성된 키와 일치하는지 확인하세요.
• LM Studio 인증을 참조하세요.
• 서버에서 인증을 요구하지 않는 경우 설정 중 키를 비워 두세요.

관련 항목

• 모델 선택
• Ollama
• 로컬 모델