OpenClawDocs
View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

ds4

ds4, OpenAI uyumlu bir /v1 API'sine sahip yerel Metal arka ucu üzerinden DeepSeek V4 Flash hizmeti sunar. OpenClaw, genel openai-completions sağlayıcı ailesi üzerinden ds4'e bağlanır.

ds4, OpenClaw ile birlikte gelen bir sağlayıcı Plugin'i değildir. Bunu models.providers.ds4 altında yapılandırın, ardından ds4/deepseek-v4-flash modelini seçin.

Özellik Değer
Sağlayıcı kimliği ds4
Plugin yok (yalnızca yapılandırma)
API OpenAI uyumlu Sohbet Tamamlamaları (openai-completions)
Temel URL http://127.0.0.1:18000/v1 (önerilen)
Model kimliği deepseek-v4-flash
Araç çağrıları OpenAI tarzı tools / tool_calls
Akıl yürütme DeepSeek tarzı thinking ve reasoning_effort

Gereksinimler

  • Metal desteğine sahip macOS.
  • ds4-server ve DeepSeek V4 Flash GGUF dosyasını içeren, çalışan bir ds4 çalışma kopyası.
  • Seçtiğiniz bağlam için yeterli bellek; daha büyük --ctx değerleri, sunucu başlatılırken daha fazla KV belleği ayırır.

Hızlı başlangıç

  • Start ds4-server

    <DS4_DIR> yerine ds4 çalışma kopyanızın yolunu yazın.

    bash
    <DS4_DIR>/ds4-server \  --model <DS4_DIR>/ds4flash.gguf \  --host 127.0.0.1 \  --port 18000 \  --ctx 32768 \  --tokens 128

  • Verify the OpenAI-compatible endpoint

    bash
    curl http://127.0.0.1:18000/v1/models

    Yanıt deepseek-v4-flash değerini içermelidir.

  • Add the OpenClaw provider config

    Tam yapılandırma bölümündeki yapılandırmayı ekleyin, ardından tek seferlik bir model denetimi çalıştırın:

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    • Tam yapılandırma

    ds4 zaten 127.0.0.1:18000 üzerinde çalışıyorsa bu yapılandırmayı kullanın.

    json5
    {  agents: {    defaults: {      model: { primary: "ds4/deepseek-v4-flash" },      models: {        "ds4/deepseek-v4-flash": {          alias: "DS4 local",        },      },    },  },  models: {    mode: "merge",    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    contextWindow değerini ds4-server --ctx ile uyumlu tutun. OpenClaw'ın sunucu varsayılanından daha az çıktı istemesini özellikle amaçlamıyorsanız maxTokens değerini --tokens ile uyumlu tutun.

    İsteğe bağlı başlatma

    OpenClaw, ds4'ü yalnızca bir ds4/... modeli seçildiğinde başlatabilir. Aynı sağlayıcı girdisine localService ekleyin:

    json5
    {  models: {    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        localService: {          command: "<DS4_DIR>/ds4-server",          args: [            "--model",            "<DS4_DIR>/ds4flash.gguf",            "--host",            "127.0.0.1",            "--port",            "18000",            "--ctx",            "32768",            "--tokens",            "128",          ],          cwd: "<DS4_DIR>",          healthUrl: "http://127.0.0.1:18000/v1/models",          readyTimeoutMs: 300000,          idleStopMs: 0,        },        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    command, mutlak bir çalıştırılabilir dosya yolu olmalıdır. Kabuk araması ve ~ genişletmesi kullanılmaz. Tüm localService alanları için Yerel model hizmetleri bölümüne bakın.

    Think Max

    ds4, Think Max'i yalnızca aşağıdaki koşulların ikisi de doğru olduğunda uygular:

    • ds4-server, --ctx 393216 veya daha yüksek bir değerle başlatılır.
    • İstek reasoning_effort: "max" değerini (veya ds4'teki eşdeğer çaba alanını) kullanır.

    Bu kadar büyük bir bağlam çalıştırıyorsanız hem sunucu bayraklarını hem de OpenClaw model meta verilerini güncelleyin:

    json5
    {  contextWindow: 393216,  maxTokens: 384000,  compat: {    supportsUsageInStreaming: true,    supportsReasoningEffort: true,    maxTokensField: "max_tokens",    supportsStrictMode: false,    thinkingFormat: "deepseek",    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],  },}

    Test

    OpenClaw atlanarak yapılan doğrudan HTTP denetimi:

    bash
    curl http://127.0.0.1:18000/v1/chat/completions \  -H 'content-type: application/json' \  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

    OpenClaw model yönlendirmesi (Hızlı başlangıç denetimiyle aynı):

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "Reply with exactly: openclaw-ds4-ok" \  --json

    En az 32768 bağlamla tam ajan ve araç çağrısı duman testi:

    bash
    openclaw agent \  --local \  --session-id ds4-tool-smoke \  --model ds4/deepseek-v4-flash \  --thinking off \  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \  --json \  --timeout 240

    Beklenen sonuç:

    • executionTrace.winnerProvider, ds4 değeridir
    • executionTrace.winnerModel, deepseek-v4-flash değeridir
    • toolSummary.calls en az 1 değeridir
    • finalAssistantVisibleText, tool-ok ile başlar

    Sorun giderme

    curl /v1/models cannot connect

    ds4 çalışmıyor veya baseUrl içindeki ana makineye/bağlantı noktasına bağlı değil. ds4-server'ı başlatın, ardından yeniden deneyin:

    bash
    curl http://127.0.0.1:18000/v1/models
    500 prompt exceeds context

    Yapılandırılan --ctx, OpenClaw turu için çok küçüktür. ds4-server --ctx değerini yükseltin, ardından eşleşmesi için models.providers.ds4.models[].contextWindow değerini güncelleyin. Araçları içeren tam ajan turları, tek mesajlı doğrudan bir curl isteğinden önemli ölçüde daha fazla bağlam gerektirir.

    Think Max does not activate

    ds4, Think Max'i yalnızca --ctx değeri en az 393216 olduğunda ve istek reasoning_effort: "max" talep ettiğinde kullanır. Daha küçük bağlamlar yüksek akıl yürütme düzeyine geri döner.

    The first request is slow

    ds4'ün soğuk Metal yerleşimi ve model ısınma aşaması vardır. OpenClaw sunucuyu isteğe bağlı olarak başlatıyorsa localService.readyTimeoutMs: 300000 değerini ayarlayın.

    İlgili içerikler

    Local model services

    Model isteklerinden önce yerel model sunucularını isteğe bağlı olarak başlatın.
    Local models

    Yerel model arka uçlarını seçin ve çalıştırın.
    Model providers

    Sağlayıcı referanslarını, kimlik doğrulamayı ve yük devretmeyi yapılandırın.
    DeepSeek

    Yerel DeepSeek sağlayıcı davranışı ve düşünme denetimleri.
    Was this useful?
    On this page

    On this page