OpenClawDocs
View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

ds4

ds4 udostępnia DeepSeek V4 Flash z lokalnego backendu Metal za pośrednictwem interfejsu API /v1 zgodnego z OpenAI. OpenClaw łączy się z ds4 przez ogólną rodzinę dostawców openai-completions.

ds4 nie jest dołączonym Pluginem dostawcy OpenClaw. Skonfiguruj go w models.providers.ds4, a następnie wybierz ds4/deepseek-v4-flash.

Właściwość Wartość
Identyfikator dostawcy ds4
Plugin brak (tylko konfiguracja)
API Chat Completions zgodne z OpenAI (openai-completions)
Bazowy adres URL http://127.0.0.1:18000/v1 (sugerowany)
Identyfikator modelu deepseek-v4-flash
Wywołania narzędzi tools / tool_calls w stylu OpenAI
Rozumowanie thinking i reasoning_effort w stylu DeepSeek

Wymagania

  • macOS z obsługą Metal.
  • Działająca kopia robocza ds4 z ds4-server oraz plikiem GGUF DeepSeek V4 Flash.
  • Wystarczająca ilość pamięci dla wybranego kontekstu; większe wartości --ctx przydzielają więcej pamięci KV podczas uruchamiania serwera.

Szybki start

  • Start ds4-server

    Zastąp <DS4_DIR> ścieżką do swojej kopii roboczej ds4.

    bash
    <DS4_DIR>/ds4-server \  --model <DS4_DIR>/ds4flash.gguf \  --host 127.0.0.1 \  --port 18000 \  --ctx 32768 \  --tokens 128

  • Verify the OpenAI-compatible endpoint

    bash
    curl http://127.0.0.1:18000/v1/models

    Odpowiedź powinna zawierać deepseek-v4-flash.

  • Add the OpenClaw provider config

    Dodaj konfigurację z sekcji Pełna konfiguracja, a następnie uruchom jednorazowe sprawdzenie modelu:

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    • Pełna konfiguracja

    Użyj tej konfiguracji, gdy ds4 jest już uruchomiony pod adresem 127.0.0.1:18000.

    json5
    {  agents: {    defaults: {      model: { primary: "ds4/deepseek-v4-flash" },      models: {        "ds4/deepseek-v4-flash": {          alias: "DS4 local",        },      },    },  },  models: {    mode: "merge",    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    Utrzymuj contextWindow zgodne z ds4-server --ctx. Utrzymuj maxTokens zgodne z --tokens, chyba że celowo chcesz, aby OpenClaw żądał mniejszej ilości danych wyjściowych niż domyślna wartość serwera.

    Uruchamianie na żądanie

    OpenClaw może uruchamiać ds4 tylko wtedy, gdy wybrany jest model ds4/.... Dodaj localService do tego samego wpisu dostawcy:

    json5
    {  models: {    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        localService: {          command: "<DS4_DIR>/ds4-server",          args: [            "--model",            "<DS4_DIR>/ds4flash.gguf",            "--host",            "127.0.0.1",            "--port",            "18000",            "--ctx",            "32768",            "--tokens",            "128",          ],          cwd: "<DS4_DIR>",          healthUrl: "http://127.0.0.1:18000/v1/models",          readyTimeoutMs: 300000,          idleStopMs: 0,        },        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    command musi być bezwzględną ścieżką do pliku wykonywalnego. Wyszukiwanie przez powłokę ani rozwijanie ~ nie są używane. Opis wszystkich pól localService znajdziesz w sekcji Lokalne usługi modeli.

    Think Max

    ds4 stosuje Think Max tylko wtedy, gdy oba warunki są spełnione:

    • ds4-server uruchamia się z wartością --ctx 393216 lub większą.
    • Żądanie używa reasoning_effort: "max" (lub równoważnego pola poziomu wysiłku ds4).

    Jeśli używasz tak dużego kontekstu, zaktualizuj zarówno flagi serwera, jak i metadane modelu OpenClaw:

    json5
    {  contextWindow: 393216,  maxTokens: 384000,  compat: {    supportsUsageInStreaming: true,    supportsReasoningEffort: true,    maxTokensField: "max_tokens",    supportsStrictMode: false,    thinkingFormat: "deepseek",    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],  },}

    Test

    Bezpośrednie sprawdzenie HTTP z pominięciem OpenClaw:

    bash
    curl http://127.0.0.1:18000/v1/chat/completions \  -H 'content-type: application/json' \  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

    Trasowanie modelu OpenClaw (takie samo jak sprawdzenie w sekcji Szybki start):

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    Pełny test dymny agenta i wywołań narzędzi z kontekstem wynoszącym co najmniej 32768:

    bash
    openclaw agent \  --local \  --session-id ds4-tool-smoke \  --model ds4/deepseek-v4-flash \  --thinking off \  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \  --json \  --timeout 240

    Oczekiwany wynik:

    • executionTrace.winnerProvider ma wartość ds4
    • executionTrace.winnerModel ma wartość deepseek-v4-flash
    • toolSummary.calls wynosi co najmniej 1
    • finalAssistantVisibleText zaczyna się od tool-ok

    Rozwiązywanie problemów

    curl /v1/models cannot connect

    ds4 nie jest uruchomiony albo nie nasłuchuje na hoście lub porcie określonym w baseUrl. Uruchom ds4-server, a następnie spróbuj ponownie:

    bash
    curl http://127.0.0.1:18000/v1/models
    500 prompt exceeds context

    Skonfigurowana wartość --ctx jest zbyt mała dla tury OpenClaw. Zwiększ ds4-server --ctx, a następnie odpowiednio zaktualizuj models.providers.ds4.models[].contextWindow. Pełne tury agenta z narzędziami wymagają znacznie większego kontekstu niż bezpośrednie żądanie curl z pojedynczą wiadomością.

    Think Max does not activate

    ds4 używa Think Max tylko wtedy, gdy --ctx wynosi co najmniej 393216, a żądanie określa reasoning_effort: "max". Mniejsze konteksty powodują powrót do wysokiego poziomu rozumowania.

    The first request is slow

    ds4 ma fazę początkowego umieszczania w pamięci Metal i rozgrzewania modelu. Ustaw localService.readyTimeoutMs: 300000, gdy OpenClaw uruchamia serwer na żądanie.

    Powiązane

    Local model services

    Uruchamiaj lokalne serwery modeli na żądanie przed żądaniami do modeli.
    Local models

    Wybieraj i obsługuj lokalne backendy modeli.
    Model providers

    Konfiguruj odwołania do dostawców, uwierzytelnianie i przełączanie awaryjne.
    DeepSeek

    Natywne zachowanie dostawcy DeepSeek i ustawienia sterujące myśleniem.
    Was this useful?
    On this page

    On this page