OpenClawDocs
View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

ds4

ds4 disponibiliza o DeepSeek V4 Flash por meio de um backend Metal local com uma API /v1 compatível com OpenAI. O OpenClaw se conecta ao ds4 por meio da família genérica de provedores openai-completions.

O ds4 não é um Plugin de provedor integrado ao OpenClaw. Configure-o em models.providers.ds4 e selecione ds4/deepseek-v4-flash.

Propriedade Valor
ID do provedor ds4
Plugin nenhum (somente configuração)
API Chat Completions compatível com OpenAI (openai-completions)
URL base http://127.0.0.1:18000/v1 (sugerida)
ID do modelo deepseek-v4-flash
Chamadas de ferramentas tools / tool_calls no estilo OpenAI
Raciocínio thinking e reasoning_effort no estilo DeepSeek

Requisitos

  • macOS com suporte ao Metal.
  • Um checkout funcional do ds4 com ds4-server e o arquivo GGUF do DeepSeek V4 Flash.
  • Memória suficiente para o contexto escolhido; valores maiores de --ctx alocam mais memória KV na inicialização do servidor.

Início rápido

  • Start ds4-server

    Substitua <DS4_DIR> pelo caminho do seu checkout do ds4.

    bash
    <DS4_DIR>/ds4-server \  --model <DS4_DIR>/ds4flash.gguf \  --host 127.0.0.1 \  --port 18000 \  --ctx 32768 \  --tokens 128

  • Verify the OpenAI-compatible endpoint

    bash
    curl http://127.0.0.1:18000/v1/models

    A resposta deve incluir deepseek-v4-flash.

  • Add the OpenClaw provider config

    Adicione a configuração de Configuração completa e execute uma verificação pontual do modelo:

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    • Configuração completa

    Use esta configuração quando o ds4 já estiver em execução em 127.0.0.1:18000.

    json5
    {  agents: {    defaults: {      model: { primary: "ds4/deepseek-v4-flash" },      models: {        "ds4/deepseek-v4-flash": {          alias: "DS4 local",        },      },    },  },  models: {    mode: "merge",    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    Mantenha contextWindow alinhado com ds4-server --ctx. Mantenha maxTokens alinhado com --tokens, a menos que você queira intencionalmente que o OpenClaw solicite menos saída do que o padrão do servidor.

    Inicialização sob demanda

    O OpenClaw pode iniciar o ds4 somente quando um modelo ds4/... for selecionado. Adicione localService à mesma entrada do provedor:

    json5
    {  models: {    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        localService: {          command: "<DS4_DIR>/ds4-server",          args: [            "--model",            "<DS4_DIR>/ds4flash.gguf",            "--host",            "127.0.0.1",            "--port",            "18000",            "--ctx",            "32768",            "--tokens",            "128",          ],          cwd: "<DS4_DIR>",          healthUrl: "http://127.0.0.1:18000/v1/models",          readyTimeoutMs: 300000,          idleStopMs: 0,        },        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    command deve ser um caminho absoluto para um executável. A pesquisa no shell e a expansão de ~ não são usadas. Consulte Serviços de modelos locais para conhecer todos os campos de localService.

    Think Max

    O ds4 aplica o Think Max somente quando ambas as condições são verdadeiras:

    • O ds4-server é iniciado com --ctx 393216 ou um valor maior.
    • A solicitação usa reasoning_effort: "max" (ou o campo de esforço equivalente do ds4).

    Se você executar com esse contexto grande, atualize tanto os sinalizadores do servidor quanto os metadados do modelo no OpenClaw:

    json5
    {  contextWindow: 393216,  maxTokens: 384000,  compat: {    supportsUsageInStreaming: true,    supportsReasoningEffort: true,    maxTokensField: "max_tokens",    supportsStrictMode: false,    thinkingFormat: "deepseek",    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],  },}

    Teste

    Verificação HTTP direta, ignorando o OpenClaw:

    bash
    curl http://127.0.0.1:18000/v1/chat/completions \  -H 'content-type: application/json' \  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

    Roteamento de modelo do OpenClaw (igual à verificação do início rápido):

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    Teste rápido completo do agente e das chamadas de ferramentas, com contexto de pelo menos 32768:

    bash
    openclaw agent \  --local \  --session-id ds4-tool-smoke \  --model ds4/deepseek-v4-flash \  --thinking off \  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \  --json \  --timeout 240

    Resultado esperado:

    • executionTrace.winnerProvider é ds4
    • executionTrace.winnerModel é deepseek-v4-flash
    • toolSummary.calls é pelo menos 1
    • finalAssistantVisibleText começa com tool-ok

    Solução de problemas

    curl /v1/models cannot connect

    O ds4 não está em execução ou não está vinculado ao host/à porta em baseUrl. Inicie o ds4-server e tente novamente:

    bash
    curl http://127.0.0.1:18000/v1/models
    500 prompt exceeds context

    O --ctx configurado é pequeno demais para a interação do OpenClaw. Aumente ds4-server --ctx e atualize models.providers.ds4.models[].contextWindow para corresponder. Interações completas do agente com ferramentas precisam de muito mais contexto do que uma solicitação direta de uma única mensagem com curl.

    Think Max does not activate

    O ds4 usa o Think Max somente quando --ctx é de pelo menos 393216 e a solicitação pede reasoning_effort: "max". Contextos menores recorrem ao nível alto de raciocínio.

    The first request is slow

    O ds4 passa por uma fase inicial de residência a frio no Metal e aquecimento do modelo. Defina localService.readyTimeoutMs: 300000 quando o OpenClaw iniciar o servidor sob demanda.

    Relacionados

    Local model services

    Inicie servidores de modelos locais sob demanda antes das solicitações de modelo.
    Local models

    Escolha e opere backends de modelos locais.
    Model providers

    Configure referências de provedores, autenticação e failover.
    DeepSeek

    Comportamento nativo do provedor DeepSeek e controles de raciocínio.
    Was this useful?
    On this page

    On this page