15 de July de 2024

O novo gerador de vídeo de inteligência artificial do Google é excelente, mas e quanto aos deepfakes?

O mais recente gerador de vídeo de IA desenvolvido pelo Google é o mais sofisticado até o momento, o que pode resultar em deepfakes ainda mais convincentes.

O Lumiere, um gerador de vídeo AI desenvolvido pelo Google Research, foi divulgado recentemente. Ele tem a capacidade de criar vídeos fotorrealistas de cinco segundos a partir de instruções de texto simples. O que o torna tão avançado é a utilização da arquitetura “Space-Time U-Net”, que permite gerar toda a duração do vídeo de uma só vez, através de um único passo no modelo.

Versões anteriores de inteligência artificial produziram vídeos mediante a criação de imagens individuais, uma de cada vez.

Lumiere, em teoria, facilitará a criação e edição de vídeos para usuários sem conhecimento técnico. Sugestões como “panda tocando ukulele em casa” ou “timelapse do pôr do sol na praia” resultam em vídeos realistas e detalhados. Além disso, ele pode gerar vídeos com base no estilo de uma única imagem, como a pintura aquarela de uma criança com flores.

As opções de edição são surpreendentes no Lumière. Com essa ferramenta, é possível animar partes selecionadas de uma imagem e preencher áreas vazias usando a técnica de “inpainting de vídeo”. Além disso, é possível editar partes específicas de um vídeo usando instruções de texto, como alterar o vestido de uma mulher ou adicionar acessórios a vídeos de corujas e pintinhos.

O artigo afirma que o principal objetivo é possibilitar que usuários inexperientes criem conteúdo visual. No entanto, há uma preocupação com o risco de uso indevido para criar conteúdo falso ou prejudicial. Por isso, é considerado crucial desenvolver e implementar ferramentas para detectar preconceitos e casos de uso malicioso, a fim de garantir um uso seguro e justo.

Leia Mais:  O novo recurso de inteligência artificial presente no aplicativo Fotos do Windows 11 pode despertar a inveja dos usuários do macOS.

O texto não faz menção às ferramentas desenvolvidas pelo Google e possivelmente implementadas.

No evento Google I/O realizado em maio passado, a empresa destacou sua preocupação com a segurança e responsabilidade. Em agosto, o Google DeepMind lançou uma versão beta de uma ferramenta de marcação d’água AI chamada SynthID, e em novembro, o YouTube (propriedade da Google) implementou uma política que exigia que os usuários informassem se os vídeos foram gerados por IA.

Neste momento, a Lumière é apenas uma pesquisa e não é mencionado como ou quando poderia ser utilizada como uma ferramenta para lidar com os consumidores. Porém, considerando que a empresa afirma ser ousada na IA e responsável desde o início, o fato de a equipe Lumière não abordar esse aspecto é surpreendente.

O Google ainda não deu uma resposta a uma solicitação de comentário.

Google – Suporte técnico para computadores