快速开始
ds4
ds4 通过本地 Metal 后端提供 DeepSeek V4 Flash,并提供兼容 OpenAI 的 /v1 API。OpenClaw 通过通用 openai-completions 提供商系列连接到 ds4。
ds4 不是 OpenClaw 内置的提供商插件。请在 models.providers.ds4 下配置它,然后选择 ds4/deepseek-v4-flash。
| 属性 | 值 |
|---|---|
| 提供商 ID | ds4 |
| 插件 | 无(仅配置) |
| API | 兼容 OpenAI 的 Chat Completions(openai-completions) |
| 基础 URL | http://127.0.0.1:18000/v1(建议) |
| 模型 ID | deepseek-v4-flash |
| 工具调用 | OpenAI 风格的 tools / tool_calls |
| 推理 | DeepSeek 风格的 thinking 和 reasoning_effort |
要求
- 支持 Metal 的 macOS。
- 可正常工作的 ds4 检出目录,其中包含
ds4-server和 DeepSeek V4 Flash GGUF 文件。 - 有足够的内存容纳你选择的上下文;较大的
--ctx值会在服务器启动时分配更多 KV 内存。
快速开始
Start ds4-server
将 <DS4_DIR> 替换为你的 ds4 检出路径。
<DS4_DIR>/ds4-server \ --model <DS4_DIR>/ds4flash.gguf \ --host 127.0.0.1 \ --port 18000 \ --ctx 32768 \ --tokens 128Verify the OpenAI-compatible endpoint
curl http://127.0.0.1:18000/v1/models响应中应包含 deepseek-v4-flash。
Add the OpenClaw provider config
添加完整配置中的配置,然后运行一次性模型检查:
openclaw infer model run \ --local \ --model ds4/deepseek-v4-flash \ --thinking off \ --prompt "Reply with exactly: openclaw-ds4-ok" \ --json完整配置
当 ds4 已在 127.0.0.1:18000 上运行时,请使用此配置。
{ agents: { defaults: { model: { primary: "ds4/deepseek-v4-flash" }, models: { "ds4/deepseek-v4-flash": { alias: "DS4 local", }, }, }, }, models: { mode: "merge", providers: { ds4: { baseUrl: "http://127.0.0.1:18000/v1", apiKey: "ds4-local", api: "openai-completions", timeoutSeconds: 300, models: [ { id: "deepseek-v4-flash", name: "DeepSeek V4 Flash (ds4)", reasoning: true, input: ["text"], cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 }, contextWindow: 32768, maxTokens: 128, compat: { supportsUsageInStreaming: true, supportsReasoningEffort: true, maxTokensField: "max_tokens", supportsStrictMode: false, thinkingFormat: "deepseek", supportedReasoningEfforts: ["low", "medium", "high", "xhigh"], }, }, ], }, }, },}请让 contextWindow 与 ds4-server --ctx 保持一致。除非你有意让 OpenClaw 请求的输出少于服务器默认值,否则请让 maxTokens 与 --tokens 保持一致。
按需启动
OpenClaw 可以仅在选中 ds4/... 模型时启动 ds4。请将 localService 添加到同一个提供商条目:
{ models: { providers: { ds4: { baseUrl: "http://127.0.0.1:18000/v1", apiKey: "ds4-local", api: "openai-completions", timeoutSeconds: 300, localService: { command: "<DS4_DIR>/ds4-server", args: [ "--model", "<DS4_DIR>/ds4flash.gguf", "--host", "127.0.0.1", "--port", "18000", "--ctx", "32768", "--tokens", "128", ], cwd: "<DS4_DIR>", healthUrl: "http://127.0.0.1:18000/v1/models", readyTimeoutMs: 300000, idleStopMs: 0, }, models: [ { id: "deepseek-v4-flash", name: "DeepSeek V4 Flash (ds4)", reasoning: true, input: ["text"], cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 }, contextWindow: 32768, maxTokens: 128, compat: { supportsUsageInStreaming: true, supportsReasoningEffort: true, maxTokensField: "max_tokens", supportsStrictMode: false, thinkingFormat: "deepseek", supportedReasoningEfforts: ["low", "medium", "high", "xhigh"], }, }, ], }, }, },}command 必须是可执行文件的绝对路径。不会使用 Shell 查找或 ~ 展开。有关每个 localService 字段的信息,请参阅本地模型服务。
Think Max
只有同时满足以下两个条件时,ds4 才会应用 Think Max:
ds4-server使用--ctx 393216或更高值启动。- 请求使用
reasoning_effort: "max"(或等效的 ds4 推理强度字段)。
如果运行如此大的上下文,请同时更新服务器标志和 OpenClaw 模型元数据:
{ contextWindow: 393216, maxTokens: 384000, compat: { supportsUsageInStreaming: true, supportsReasoningEffort: true, maxTokensField: "max_tokens", supportsStrictMode: false, thinkingFormat: "deepseek", supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"], },}测试
绕过 OpenClaw,直接进行 HTTP 检查:
curl http://127.0.0.1:18000/v1/chat/completions \ -H 'content-type: application/json' \ -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'OpenClaw 模型路由(与快速开始中的检查相同):
openclaw infer model run \ --local \ --model ds4/deepseek-v4-flash \ --thinking off \ --prompt "Reply with exactly: openclaw-ds4-ok" \ --json完整智能体和工具调用冒烟测试,上下文至少为 32768:
openclaw agent \ --local \ --session-id ds4-tool-smoke \ --model ds4/deepseek-v4-flash \ --thinking off \ --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \ --json \ --timeout 240预期结果:
executionTrace.winnerProvider为ds4executionTrace.winnerModel为deepseek-v4-flashtoolSummary.calls至少为1finalAssistantVisibleText以tool-ok开头
故障排查
curl /v1/models cannot connect
ds4 未运行,或未绑定到 baseUrl 中的主机/端口。启动 ds4-server,然后重试:
curl http://127.0.0.1:18000/v1/models500 prompt exceeds context
配置的 --ctx 对 OpenClaw 轮次而言过小。提高 ds4-server --ctx,然后更新 models.providers.ds4.models[].contextWindow 以保持一致。包含工具的完整智能体轮次所需的上下文远多于直接发送单条消息的 curl 请求。
Think Max does not activate
只有当 --ctx 至少为 393216,并且请求指定 reasoning_effort: "max" 时,ds4 才会使用 Think Max。较小的上下文会回退到高强度推理。
The first request is slow
ds4 存在 Metal 冷启动驻留和模型预热阶段。当 OpenClaw 按需启动服务器时,请设置 localService.readyTimeoutMs: 300000。