Tools

Geração de vídeo

Os agentes do OpenClaw geram vídeos a partir de prompts de texto, imagens de referência ou vídeos existentes por meio de video_generate. Há suporte a dezesseis backends de provedores; o agente escolhe automaticamente o mais adequado com base na configuração e nas chaves de API disponíveis.

video_generate tem três modos de execução, determinados com base nas entradas de referência da chamada:

  • generate - nenhuma mídia de referência (texto para vídeo).
  • imageToVideo - uma ou mais imagens de referência.
  • videoToVideo - um ou mais vídeos de referência.

Os provedores podem oferecer suporte a qualquer subconjunto desses modos. A ferramenta valida o modo ativo antes do envio e informa os modos compatíveis em action=list.

Início rápido

  • Configurar autenticação

    Defina uma chave de API para qualquer provedor compatível:

    bash
    export GEMINI_API_KEY="your-key"
  • Escolher um modelo padrão (opcional)

    bash
    openclaw config set agents.defaults.videoGenerationModel.primary "google/veo-3.1-fast-generate-preview"
  • Pedir ao agente

    Gere um vídeo cinematográfico de 5 segundos de uma lagosta simpática surfando ao pôr do sol.

    O agente chama video_generate automaticamente. Não é necessário adicionar a ferramenta à lista de permissões.

  • Como funciona a geração assíncrona

    A geração de vídeos é assíncrona:

    1. O OpenClaw envia a solicitação ao provedor e retorna imediatamente um ID de tarefa.
    2. O provedor processa o trabalho em segundo plano (normalmente de 30 segundos a vários minutos, dependendo do provedor e da resolução; provedores lentos baseados em filas podem executar até o limite de tempo configurado).
    3. Quando o vídeo fica pronto, o OpenClaw reativa a mesma sessão com um evento interno de conclusão.
    4. O agente o apresenta usando o modo normal de resposta visível da sessão: uma resposta final automática ou message(action="send") quando a sessão exige a ferramenta de mensagens. Se a sessão solicitante estiver inativa, ou se sua reativação falhar e a mídia gerada ainda estiver ausente da resposta de conclusão, o OpenClaw enviará diretamente uma alternativa idempotente com a mídia.

    Enquanto um trabalho está em andamento, chamadas duplicadas de video_generate na mesma sessão retornam o status da tarefa atual em vez de iniciar outra geração. Use action: "status" para verificar sem acionar uma nova geração ou openclaw tasks list / openclaw tasks show <lookup> pela CLI (consulte Tarefas em segundo plano).

    Fora das execuções de agente associadas a uma sessão (por exemplo, em invocações diretas da ferramenta), a ferramenta recorre à geração em linha e retorna o caminho final da mídia na mesma interação.

    Os arquivos de vídeo gerados são salvos no armazenamento de mídia gerenciado pelo OpenClaw quando o provedor retorna bytes. O limite padrão é de 16 MB (o limite compartilhado de mídia de vídeo); agents.defaults.mediaMaxMb aumenta esse valor para renderizações maiores. Quando um provedor também retorna uma URL de saída hospedada, o OpenClaw entrega essa URL em vez de marcar a tarefa como falha se a persistência local rejeitar um arquivo grande demais.

    Ciclo de vida da tarefa

    Estado Significado
    queued Tarefa criada, aguardando o provedor aceitá-la.
    running O provedor está processando (normalmente de 30 segundos a vários minutos, dependendo do provedor e da resolução).
    succeeded Vídeo pronto; o agente é reativado e o publica na conversa.
    failed Erro ou limite de tempo excedido no provedor; o agente é reativado com os detalhes do erro.

    Verifique o status pela CLI:

    bash
    openclaw tasks listopenclaw tasks show <lookup>openclaw tasks cancel <lookup>

    Provedores compatíveis

    Provedor Modelo padrão Texto Referência de imagem Referência de vídeo Autenticação
    Alibaba wan2.6-t2v Sim (URL remota) Sim (URL remota) MODELSTUDIO_API_KEY
    BytePlus (1.0) seedance-1-0-pro-250528 Até 2 imagens (somente modelos I2V; primeiro + último quadro) - BYTEPLUS_API_KEY
    BytePlus Seedance 1.5 seedance-1-5-pro-251215 Até 2 imagens (primeiro + último quadro por função) - BYTEPLUS_API_KEY
    BytePlus Seedance 2.0 dreamina-seedance-2-0-260128 Até 9 imagens de referência Até 3 vídeos BYTEPLUS_API_KEY
    ComfyUI workflow 1 imagem - COMFY_API_KEY ou COMFY_CLOUD_API_KEY
    DeepInfra Pixverse/Pixverse-T2V - - DEEPINFRA_API_KEY
    fal fal-ai/minimax/video-01-live 1 imagem; até 9 com referência para vídeo do Seedance Até 3 vídeos com referência para vídeo do Seedance FAL_KEY
    Google veo-3.1-fast-generate-preview 1 imagem 1 vídeo GEMINI_API_KEY
    MiniMax MiniMax-Hailuo-2.3 1 imagem - MINIMAX_API_KEY ou OAuth do MiniMax
    OpenAI sora-2 1 imagem 1 vídeo OPENAI_API_KEY
    OpenRouter google/veo-3.1-fast Até 4 imagens (primeiro/último quadro ou referências) - OPENROUTER_API_KEY
    Qwen wan2.6-t2v Sim (URL remota) Sim (URL remota) QWEN_API_KEY
    Runway gen4.5 1 imagem 1 vídeo RUNWAYML_API_SECRET
    Together Wan-AI/Wan2.2-T2V-A14B Somente Wan-AI/Wan2.2-I2V-A14B - TOGETHER_API_KEY
    Vydra veo3 1 imagem (kling) - VYDRA_API_KEY
    xAI grok-imagine-video Clássico: 1 quadro inicial ou 7 referências; 1.5: 1 quadro Clássico: 1 vídeo XAI_API_KEY

    Alguns provedores aceitam variáveis de ambiente de chave de API adicionais ou alternativas. Consulte as páginas dos provedores individuais para obter detalhes.

    Execute video_generate action=list para consultar os provedores, modelos e modos de execução disponíveis durante a execução.

    Matriz de recursos

    O contrato de modos explícito usado por video_generate, pelos testes de contrato e pela verificação compartilhada em ambiente real:

    Provedor generate imageToVideo videoToVideo Cenários compartilhados em ambiente real atualmente
    Alibaba generate, imageToVideo; videoToVideo ignorado porque este provedor exige URLs de vídeo http(s) remotas
    BytePlus - generate, imageToVideo
    ComfyUI - Não está na verificação compartilhada; a cobertura específica de fluxos de trabalho fica nos testes do Comfy
    DeepInfra - - generate; os esquemas de vídeo nativos do DeepInfra são de texto para vídeo no contrato do Plugin
    fal generate, imageToVideo; videoToVideo somente ao usar referência para vídeo do Seedance
    Google generate, imageToVideo; o videoToVideo compartilhado é ignorado porque a verificação atual de Gemini/Veo baseada em buffer não aceita essa entrada
    MiniMax - generate, imageToVideo
    OpenAI generate, imageToVideo; o videoToVideo compartilhado é ignorado porque o caminho atual desta organização/entrada exige acesso à edição de vídeo no provedor
    OpenRouter - generate, imageToVideo
    Qwen generate, imageToVideo; videoToVideo ignorado porque este provedor exige URLs de vídeo http(s) remotas
    Runway generate, imageToVideo; videoToVideo é executado somente quando o modelo selecionado é runway/gen4_aleph
    Together - generate, imageToVideo
    Vydra - generate; o imageToVideo compartilhado é ignorado porque o veo3 incluído aceita somente texto e o kling incluído exige uma URL de imagem remota
    xAI O modo Clássico aceita todos os modos; o Video 1.5 aceita somente imagem para vídeo; a entrada MP4 remota mantém videoToVideo fora da verificação compartilhada

    Parâmetros da ferramenta

    Obrigatórios

    promptstringrequired

    Descrição textual do vídeo a ser gerado. Obrigatória para action: "generate".

    Entradas de conteúdo

    imagestring
    imagesstring[]
    imageRolesstring[]

    Dicas opcionais de função por posição, paralelas à lista combinada de imagens. Valores canônicos: first_frame, last_frame, reference_image.

    videostring
    videosstring[]
    videoRolesstring[]

    Dicas opcionais de função por posição, paralelas à lista combinada de vídeos. Valor canônico: reference_video.

    audioRefstring

    Um único áudio de referência (caminho ou URL). Usado para música de fundo ou referência de voz quando o provedor oferece suporte a entradas de áudio.

    audioRefsstring[]
    audioRolesstring[]

    Dicas opcionais de função por posição, paralelas à lista combinada de áudios. Valor canônico: reference_audio.

    Controles de estilo

    aspectRatiostring

    Dica de proporção, como 1:1, 16:9, 9:16, adaptive ou um valor específico do provedor. O OpenClaw normaliza ou ignora valores não compatíveis de acordo com o provedor.

    OPENCLAW_DOCS_MARKER:paramOpen:IHBhdGg9InJlc29sdXRpb24iIHR5cGU9InN0cmluZyI Dica de resolução, como 360P, 480P, 540P, 720P, 768P, 1080P, 4K ou um valor específico do provedor. O OpenClaw normaliza ou ignora valores não compatíveis de acordo com o provedor. OPENCLAW_DOCS_MARKER:paramClose:

    durationSecondsnumber

    Duração desejada em segundos (arredondada para o valor compatível mais próximo do provedor).

    sizestring
    audioboolean

    Ativa o áudio gerado na saída quando houver suporte. Diferente de audioRef* (entradas).

    watermarkboolean

    adaptive é um sentinela específico do provedor: ele é encaminhado sem alterações aos provedores que declaram adaptive em seus recursos (por exemplo, o BytePlus Seedance o utiliza para detectar automaticamente a proporção com base nas dimensões da imagem de entrada). Os provedores que não o declaram expõem o valor em details.ignoredOverrides no resultado da ferramenta, para que o descarte fique visível.

    Avançado

    action"generate" | "status" | "list"default: generate

    "status" retorna a tarefa atual da sessão; "list" inspeciona os provedores.

    OPENCLAW_DOCS_MARKER:paramOpen:IHBhdGg9Im1vZGVsIiB0eXBlPSJzdHJpbmci Substituição de provedor/modelo (por exemplo, runway/gen4.5). OPENCLAW_DOCS_MARKER:paramClose:

    filenamestring

    OPENCLAW_DOCS_MARKER:paramOpen:IHBhdGg9InRpbWVvdXRNcyIgdHlwZT0ibnVtYmVyIg Tempo limite opcional da operação do provedor, em milissegundos. Quando omitido, o OpenClaw usa agents.defaults.videoGenerationModel.timeoutMs, se configurado; caso contrário, usa o padrão do provedor definido pelo autor do plugin, quando houver. OPENCLAW_DOCS_MARKER:paramClose:

    providerOptionsobject

    Opções específicas do provedor como um objeto JSON (por exemplo, {"seed": 42, "draft": true}). Os provedores que declaram um esquema tipado validam as chaves e os tipos; chaves desconhecidas ou incompatibilidades fazem com que o candidato seja ignorado durante o fallback. Os provedores sem um esquema declarado recebem as opções sem alterações. Execute video_generate action=list para ver o que cada provedor aceita.

    As entradas de referência selecionam o modo de execução:

    • Nenhuma mídia de referência -> generate
    • Qualquer referência de imagem -> imageToVideo
    • Qualquer referência de vídeo -> videoToVideo
    • As entradas de áudio de referência não alteram o modo determinado; elas são aplicadas sobre qualquer modo selecionado pelas referências de imagem/vídeo e funcionam apenas com provedores que declaram maxInputAudios.

    A combinação de referências de imagem e vídeo não constitui uma superfície estável de recursos compartilhados. Prefira um único tipo de referência por solicitação.

    Fallback e opções tipadas

    Algumas verificações de recursos são aplicadas na camada de fallback, e não no limite da ferramenta. Portanto, uma solicitação que exceda os limites do provedor primário ainda pode ser executada por um fallback compatível:

    • O candidato ativo que não declarar maxInputAudios (ou declarar 0) será ignorado quando a solicitação contiver referências de áudio; o próximo candidato será testado. A mesma proteção se aplica às quantidades de referências de imagem e vídeo em relação a maxInputImages/maxInputVideos.
    • O candidato ativo cujo maxDurationSeconds seja menor do que o durationSeconds solicitado e que não declare uma lista supportedDurationSeconds -> será ignorado.
    • Se a solicitação contiver providerOptions e o candidato ativo declarar explicitamente um esquema tipado de providerOptions -> será ignorado se as chaves fornecidas não estiverem no esquema ou se os tipos dos valores não corresponderem. Os provedores sem um esquema declarado recebem as opções sem alterações (repasse com compatibilidade retroativa). Um provedor pode recusar todas as opções de provedor declarando um esquema vazio (capabilities.providerOptions: {}), o que causa a mesma rejeição que uma incompatibilidade de tipo.

    O primeiro motivo de rejeição de uma solicitação é registrado no nível warn, para que os operadores percebam quando o provedor primário foi ignorado; as rejeições seguintes são registradas no nível debug, para manter silenciosas as cadeias longas de fallback. Se todos os candidatos forem ignorados, o erro agregado incluirá o motivo de rejeição de cada um.

    Ações

    Ação O que faz
    generate Padrão. Cria um vídeo com base no prompt fornecido e nas entradas de referência opcionais.
    status Verifica o estado da tarefa de vídeo em andamento na sessão atual sem iniciar outra geração.
    list Exibe os provedores, modelos e respectivos recursos disponíveis.

    Seleção de modelo

    O OpenClaw determina o modelo nesta ordem:

    1. Parâmetro model da ferramenta - se o agente especificar um na chamada.
    2. videoGenerationModel.primary da configuração.
    3. videoGenerationModel.fallbacks na ordem definida.
    4. Detecção automática - provedores que têm autenticação válida, começando pelo provedor padrão atual e depois pelos provedores restantes em ordem alfabética.

    Se um provedor falhar, o próximo candidato será testado automaticamente. Se todos os candidatos falharem, o erro incluirá detalhes de cada tentativa.

    Defina agents.defaults.mediaGenerationAutoProviderFallback: false para usar somente as entradas explícitas de model, primary e fallbacks.

    json5
    {  agents: {    defaults: {      videoGenerationModel: {        primary: "google/veo-3.1-fast-generate-preview",        fallbacks: ["runway/gen4.5", "qwen/wan2.6-t2v"],        timeoutMs: 180000, // substituição opcional do tempo limite da solicitação ao provedor por ferramenta      },    },  },}

    Observações sobre os provedores

    Alibaba

    Usa o endpoint assíncrono do DashScope / Model Studio. As imagens e os vídeos de referência devem ser URLs http(s) remotas.

    BytePlus (1.0)

    ID do provedor: byteplus.

    Modelos: seedance-1-0-pro-250528 (padrão), seedance-1-0-pro-t2v-250528, seedance-1-0-pro-fast-251015, seedance-1-0-lite-t2v-250428, seedance-1-0-lite-i2v-250428.

    Os modelos T2V (*-t2v-*) não aceitam entradas de imagem; os modelos I2V e os modelos gerais *-pro-* oferecem suporte a uma única imagem de referência (primeiro quadro). Passe a imagem por posição ou defina role: "first_frame". Os IDs de modelos T2V são substituídos automaticamente pela variante I2V correspondente quando uma imagem é fornecida.

    Chaves de providerOptions compatíveis: seed (número), draft (booleano - força 480p), camera_fixed (booleano).

    BytePlus Seedance 1.5

    Requer o plugin @openclaw/byteplus-modelark (externo, não incluído no pacote). ID do provedor: byteplus-seedance15. Modelo: seedance-1-5-pro-251215.

    Usa a API unificada content[]. Oferece suporte a no máximo 2 imagens de entrada (first_frame + last_frame). Todas as entradas devem ser URLs https:// remotas. Defina role: "first_frame" / "last_frame" em cada imagem ou passe as imagens por posição.

    aspectRatio: "adaptive" detecta automaticamente a proporção com base na imagem de entrada. audio: true corresponde a generate_audio. providerOptions.seed (número) é encaminhado.

    BytePlus Seedance 2.0

    Requer o plugin @openclaw/byteplus-modelark (externo, não incluído no pacote). ID do provedor: byteplus-seedance2. Modelos: dreamina-seedance-2-0-260128, dreamina-seedance-2-0-fast-260128.

    Usa a API unificada content[]. Oferece suporte a até 9 imagens de referência, 3 vídeos de referência e 3 áudios de referência. Todas as entradas devem ser URLs https:// remotas. Defina role em cada recurso — valores compatíveis: "first_frame", "last_frame", "reference_image", "reference_video", "reference_audio".

    aspectRatio: "adaptive" detecta automaticamente a proporção com base na imagem de entrada. audio: true corresponde a generate_audio. providerOptions.seed (número) é encaminhado.

    ComfyUI

    Execução local ou na nuvem orientada por fluxos de trabalho. Compatível com texto para vídeo e imagem para vídeo por meio do grafo configurado.

    fal

    Usa um fluxo baseado em fila para trabalhos de longa duração. Por padrão, o OpenClaw aguarda até 20 minutos antes de considerar que um trabalho em andamento na fila do fal atingiu o tempo limite. A maioria dos modelos de vídeo do fal aceita uma única referência de imagem. Os modelos Seedance 2.0 de referência para vídeo aceitam até 9 imagens, 3 vídeos e 3 referências de áudio, com no máximo 12 arquivos de referência no total.

    Google (Gemini / Veo)

    Compatível com uma referência de imagem ou de vídeo. Solicitações de áudio gerado são ignoradas com um aviso no caminho da API Gemini, pois essa API rejeita o parâmetro generateAudio na geração de vídeo atual do Veo.

    MiniMax

    Apenas uma única referência de imagem. O MiniMax aceita resoluções 768P e 1080P; solicitações como 720P são normalizadas para o valor compatível mais próximo antes do envio.

    OpenAI

    Apenas a substituição de size é encaminhada. Outras substituições de estilo (aspectRatio, resolution, audio, watermark) são ignoradas com um aviso.

    OpenRouter

    Usa a API assíncrona /videos do OpenRouter. O OpenClaw envia o trabalho, consulta polling_url e baixa unsigned_urls ou o endpoint documentado de conteúdo do trabalho. O padrão incluído google/veo-3.1-fast anuncia durações de 4/6/8 segundos, resoluções 720P/1080P e proporções 16:9/9:16.

    Qwen

    Usa o mesmo backend DashScope que o Alibaba. As entradas de referência devem ser URLs http(s) remotas; arquivos locais são rejeitados antecipadamente.

    Runway

    Compatível com arquivos locais por meio de URIs de dados. Vídeo para vídeo requer runway/gen4_aleph. Execuções somente com texto oferecem proporções 16:9 e 9:16.

    Together

    Apenas uma única referência de imagem.

    Vydra

    Usa https://www.vydra.ai/api/v1 diretamente para evitar redirecionamentos que removem a autenticação. veo3 está incluído apenas como texto para vídeo; kling requer uma URL de imagem remota.

    xAI

    O modelo padrão grok-imagine-video é compatível com texto para vídeo, imagem para vídeo com uma única imagem de primeiro quadro, até 7 entradas reference_image por meio de reference_images da xAI e fluxos remotos de edição/extensão de vídeo. Por padrão, a geração usa 480P; na conversão de imagem para vídeo com uma única imagem, a proporção da origem é herdada quando aspectRatio é omitido. A edição/extensão de vídeo herda a geometria da entrada e não aceita substituições de proporção ou resolução. A extensão aceita de 2 a 10 segundos.

    grok-imagine-video-1.5 é exclusivo para imagem para vídeo: forneça exatamente uma imagem. É compatível com 1 a 15 segundos e 480P, 720P ou 1080P, usando 480P por padrão; omita aspectRatio para herdar a proporção da imagem de origem. Os identificadores de prévia e os identificadores 1.5 com data recebem a mesma validação e são encaminhados sem alterações.

    Modos de capacidade dos provedores

    O contrato compartilhado de geração de vídeo é compatível com capacidades específicas por modo, em vez de apenas limites agregados simples. Novas implementações de provedores devem preferir blocos de modo explícitos:

    typescript
    capabilities: {  generate: {    maxVideos: 1,    maxDurationSeconds: 10,    supportsResolution: true,  },  imageToVideo: {    enabled: true,    maxVideos: 1,    maxInputImages: 1,    maxInputImagesByModel: { "provider/reference-to-video": 9 },    maxDurationSeconds: 5,  },  videoToVideo: {    enabled: true,    maxVideos: 1,    maxInputVideos: 1,    maxDurationSeconds: 5,  },}

    Campos agregados simples, como maxInputImages e maxInputVideos, não são suficientes para anunciar compatibilidade com modos de transformação. Os provedores devem declarar generate, imageToVideo e videoToVideo explicitamente para que testes em ambiente real, testes de contrato e a ferramenta compartilhada video_generate possam validar a compatibilidade com os modos de forma determinística.

    Quando um modelo de um provedor tem compatibilidade mais ampla com entradas de referência do que os demais, use maxInputImagesByModel, maxInputVideosByModel ou maxInputAudiosByModel em vez de aumentar o limite de todo o modo.

    Testes em ambiente real

    Cobertura opcional em ambiente real para os provedores compartilhados incluídos:

    bash
    OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/video-generation-providers.live.test.ts

    Wrapper do repositório:

    bash
    pnpm test:live:media video

    Por padrão, esse arquivo de testes em ambiente real usa as variáveis de ambiente já exportadas dos provedores antes dos perfis de autenticação armazenados e executa um teste de fumaça seguro para lançamento:

    • generate para cada provedor que não seja FAL na varredura.
    • Prompt de lagosta com duração de um segundo.
    • Limite de tempo por operação e por provedor definido por OPENCLAW_LIVE_VIDEO_GENERATION_TIMEOUT_MS (180000 por padrão).

    O FAL é opcional porque a latência da fila no lado do provedor pode dominar o tempo de lançamento:

    bash
    pnpm test:live:media video --video-providers fal

    Defina OPENCLAW_LIVE_VIDEO_GENERATION_FULL_MODES=1 para também executar os modos de transformação declarados que a varredura compartilhada pode exercitar com segurança usando mídia local:

    • imageToVideo quando capabilities.imageToVideo.enabled.
    • videoToVideo quando capabilities.videoToVideo.enabled e o provedor/modelo aceita entrada de vídeo local baseada em buffer na varredura compartilhada.

    Atualmente, a faixa compartilhada de testes em ambiente real de videoToVideo abrange apenas runway quando você seleciona runway/gen4_aleph.

    Configuração

    Defina o modelo padrão de geração de vídeo na configuração do OpenClaw:

    json5
    {  agents: {    defaults: {      videoGenerationModel: {        primary: "qwen/wan2.6-t2v",        fallbacks: ["qwen/wan2.6-r2v-flash"],      },    },  },}

    Ou por meio da CLI:

    bash
    openclaw config set agents.defaults.videoGenerationModel.primary "qwen/wan2.6-t2v"

    Relacionados

    Was this useful?
    On this page

    On this page