快速开始

媒体概览

OpenClaw 可生成图像、视频和音乐,理解入站媒体 (图像、音频、视频),并通过文本转语音朗读回复。所有 媒体能力均由工具驱动:智能体根据对话决定何时使用它们, 并且只有配置了至少一个后端提供商时,各工具才会显示。

实时语音使用 Talk 会话契约,而不是一次性媒体工具 路径。Talk 有三种模式:提供商原生 realtime、本地或流式 stt-tts,以及用于仅观察式语音捕获的 transcription。这些模式 与电话、会议、浏览器实时功能和原生按键通话客户端共享 提供商目录、事件信封和取消语义。

能力

提供商能力矩阵

提供商 图像 视频 音乐 TTS STT 实时语音 媒体理解
Alibaba
Azure Speech
BytePlus
ComfyUI
Deepgram
DeepInfra
ElevenLabs
fal
Google
Gradium
Inworld
LiteLLM
本地 CLI
Microsoft
Microsoft Foundry
MiniMax
Mistral
OpenAI
OpenRouter
PixVerse
Qwen
Runway
SenseAudio
Together
Volcengine
Vydra
xAI
Xiaomi MiMo

异步与同步

能力 模式 原因
图像 异步 提供商处理时间可能超过一次聊天轮次;生成的附件使用共享完成路径。
文本转语音 同步 提供商响应会在数秒内返回,并附加到回复音频中。
视频 异步 提供商处理耗时为 30 秒至数分钟;缓慢队列最长可运行至配置的超时时间。
音乐 异步 与视频具有相同的提供商处理特性。

对于异步工具,OpenClaw 会将请求提交给提供商,立即返回任务 ID,并在任务账本中跟踪该作业。作业运行期间,智能体可以继续 响应其他消息。提供商完成处理后,OpenClaw 会使用生成的媒体路径 唤醒智能体,使其能够通过会话的正常可见回复模式告知 用户:如果已配置,则自动投递最终回复;如果会话要求 使用消息工具,则调用 message(action="send")。如果请求方会话处于非活动状态, 或其主动唤醒失败,并且完成回复中仍缺少部分已生成媒体, OpenClaw 会发送一条幂等的直接回退消息,其中仅包含缺失的媒体。完成回复 已经投递的媒体不会再次发布。

语音转文本和 Voice Call

配置后,Deepgram、DeepInfra、ElevenLabs、Google、Groq、Mistral、OpenAI、OpenRouter、 SenseAudio 和 xAI 均可通过批量 tools.media.audio 路径转录入站音频。对语音消息进行预检以执行 提及门控或命令解析的渠道插件,会在入站上下文中标记已转录的 附件,因此共享媒体理解流程会复用该转录文本,而不是对同一 音频再次发起 STT 调用。

Deepgram、ElevenLabs、Mistral、OpenAI 和 xAI 还注册了 Voice Call 流式 STT 提供商,因此实时电话音频可以转发给选定的 供应商,而无需等待完整录音生成。

对于实时用户对话,优先使用 Talk 模式。批量音频 附件继续使用媒体路径;浏览器实时功能、原生按键通话、 电话和会议音频应使用 Talk 事件以及 Gateway 网关返回的会话级 目录。

提供商映射(供应商如何分布在不同功能界面)

Google

图像、视频、音乐、批量 TTS、批量 STT、后端实时语音和 媒体理解功能界面。

OpenAI

图像、视频、批量 TTS、批量 STT、Voice Call 流式 STT、后端 实时语音和记忆嵌入功能界面。

DeepInfra

聊天/模型路由、图像生成/编辑、文本生成视频、批量 TTS、 批量 STT、图像媒体理解和记忆嵌入功能界面。 DeepInfra 还提供重排序、分类、对象检测和 其他原生模型类型;OpenClaw 尚未为这些 类别提供提供商契约,因此此插件不会注册它们。

xAI

图像、视频、搜索、代码执行、批量 TTS、批量 STT 和 Voice Call 流式 STT。xAI 实时语音是上游能力,但在共享实时语音契约能够 表示它之前,不会在 OpenClaw 中注册。

相关内容

Was this useful?
On this page

On this page