Tools

媒體概覽

OpenClaw 可生成圖片、影片和音樂,理解傳入的媒體 (圖片、音訊、影片),並透過文字轉語音朗讀回覆。所有 媒體功能都由工具驅動:代理程式會根據對話決定何時使用, 而且每項工具只會在至少設定一個支援供應商時出現。

即時語音使用 Talk 工作階段合約,而非單次媒體工具 路徑。Talk 有三種模式:供應商原生的 realtime、本機或串流 stt-tts,以及用於僅觀察式語音擷取的 transcription。這些模式 與電話、會議、瀏覽器即時通訊和原生按住說話用戶端共用 供應商目錄、事件封裝格式和取消語意。

功能

供應商功能矩陣

供應商 圖片 影片 音樂 TTS STT 即時語音 媒體理解
Alibaba
Azure Speech
BytePlus
ComfyUI
Deepgram
DeepInfra
ElevenLabs
fal
Google
Gradium
Inworld
LiteLLM
Local CLI
Microsoft
Microsoft Foundry
MiniMax
Mistral
OpenAI
OpenRouter
PixVerse
Qwen
Runway
SenseAudio
Together
Volcengine
Vydra
xAI
Xiaomi MiMo

非同步與同步

功能 模式 原因
圖片 非同步 供應商的處理時間可能超過單次聊天回合;生成的附件使用共用完成路徑。
文字轉語音 同步 供應商回應會在數秒內傳回;音訊會附加至回覆。
影片 非同步 供應商處理需要 30 秒至數分鐘;緩慢的佇列最長可執行至設定的逾時時間。
音樂 非同步 具有與影片相同的供應商處理特性。

對於非同步工具,OpenClaw 會將請求提交給供應商、立即傳回任務 識別碼,並在任務帳本中追蹤工作。工作執行期間,代理程式仍可繼續 回應其他訊息。當供應商完成後, OpenClaw 會以生成媒體的路徑喚醒代理程式,使其能透過工作階段的一般可見回覆模式告知 使用者:若已設定,則自動傳送最終回覆;若工作階段要求 使用訊息工具,則使用 message(action="send")。如果請求者的工作階段處於非使用中狀態,或其主動喚醒 失敗,而且完成回覆中仍缺少部分生成媒體, OpenClaw 會以具等冪性的直接備援方式,僅傳送缺少的媒體。已由 完成回覆傳送的媒體不會再次發布。

語音轉文字與語音通話

設定後,Deepgram、DeepInfra、ElevenLabs、Google、Groq、Mistral、OpenAI、OpenRouter、 SenseAudio 和 xAI 都能透過批次 tools.media.audio 路徑轉錄傳入的音訊。為提及閘控或命令剖析而預先檢查 語音備註的頻道外掛,會在傳入內容中標記已轉錄的 附件,讓共用媒體理解處理流程重複使用該轉錄內容, 而不會對同一段音訊進行第二次 STT 呼叫。

Deepgram、ElevenLabs、Mistral、OpenAI 和 xAI 也會註冊語音通話 串流 STT 供應商,因此即時電話音訊可直接轉送給所選 供應商,而無須等待錄音完成。

對於即時使用者對話,建議使用 Talk 模式。批次音訊 附件仍使用媒體路徑;瀏覽器即時通訊、原生按住說話、 電話和會議音訊應使用 Talk 事件,以及由閘道傳回的工作階段範圍 目錄。

供應商對應關係(供應商如何分布於各介面)

Google

圖片、影片、音樂、批次 TTS、批次 STT、後端即時語音,以及 媒體理解介面。

OpenAI

圖片、影片、批次 TTS、批次 STT、語音通話串流 STT、後端 即時語音,以及記憶嵌入介面。

DeepInfra

聊天/模型路由、圖片生成/編輯、文字轉影片、批次 TTS、 批次 STT、圖片媒體理解,以及記憶嵌入介面。 DeepInfra 也提供重新排序、分類、物件偵測和 其他原生模型類型;OpenClaw 目前尚未針對這些 類別提供供應商合約,因此此外掛不會註冊它們。

xAI

圖片、影片、搜尋、程式碼執行、批次 TTS、批次 STT,以及語音 通話串流 STT。xAI 即時語音是上游功能,但在 共用即時語音合約能夠表示它之前,不會註冊至 OpenClaw。

相關內容

Was this useful?
On this page

On this page