Deepfake: entenda o que é, como identificar e quais riscos oferece


Taysa Coelho
Taysa Coelho
Jornalista

Deepfake é o nome dado à técnica que permite recriar a aparência ou voz humana com o auxílio de inteligência artificial. Com a tecnologia, é possível simular pessoas falando ou agindo de maneira que jamais fariam.

A palavra seria uma junção dos termos deep learning (um ramo do machine learning ou aprendizado de máquina, em português) e fake (falso). O conceito teria surgido em 2017, em referência a um usuário do Reddit com o apelido de deepfakes.

Ele teria usado a tecnologia de deep learning para sobrepor os rostos de celebridades a de pessoas em filmes pornográficos. Desde então, o método vem se tornando cada vez mais realista e acessível.

O AppGeek preparou um guia para que entenda melhor o que é e como funciona o recurso de edição que vem dominando a internet. Confira também quais são os riscos oferecidos e como se proteger.

Como funciona o deepfake?

Deepfake
Atriz Michelle Adams tem o rosto substituído pelo do ator Nicolas Cage (Reproduçãob/ Wikipedia)

Para criar um vídeo deepfake são usados dois algoritmos concorrentes de inteligência artificial, chamados gerador e discriminador. De acordo com o site Whatis.com, a função do primeiro é criar vídeos falsos e, do segundo, de identificá-los como verdadeiros ou não.

Quando o discriminador acha um conteúdo falso, o gerador aprende sobre o que não deve ser feito. E, assim, irá criar o próximo vídeo de maneira aperfeiçoada. Quando atuam juntos, gerador e discriminador geram a chamada generative adversarial network (GAN), ou rede de oposição generativa, em tradução livre.

Como criar um vídeo deepfake?

Para montar um filme do gênero é necessário ter um vídeo de origem, de preferência o mais simples possível. Por isso, muitas vezes, são usados discursos políticos, em que o fundo é neutro e são feitos basicamente movimentos de cabeça.

Então, é preciso combinar dois conjuntos de dados. Se o personagem do vídeo vira a cabeça para a esquerda e abre a boca, é necessário ter imagens de quem irá substituí-lo nas mesmas posições. Isso pode requerer um banco de imagens vasto.

Depois, cabe deixar o trabalho ao programa baseado em inteligência artificial. Depois de diversas tentativas e erros e acertos, a generative adversarial network irá incorporar um rosto ao outro com a maior precisão possível.

O vídeo acima é um dos mais famosos de deepfake. Nele, o ex-presidente do Estados Unidos Barack Obama tem movimentos e voz sobrepostos pelos do comediante Jordan Peele.

Quais são os riscos do deepfake?

Apesar de parecer inofensivo, o deepfake tem sido polêmico desde o seu surgimento, em 2017, no Reddit. A técnica era bastante usada para sobrepor o rosto de atrizes a de pessoas em vídeos pornográficos.

Conforme vai se desenvolvendo, a técnica fica mais realista e os conteúdos acabam viralizando como se fossem reais. Esse é um dos grandes perigos do recurso: a disseminação de conteúdos falsos como autênticos.

Em 2018, o Facebook se viu envolvido em um escândalo, após o vazamento de dados de usuários por uma empresa de aplicativos terceira. Pouco depois, um vídeo de Mark Zuckerberg viralizou e preocupou muita gente.

No curto filme, o CEO do Facebook insinua que controla o futuro por ter o domínio de bilhões de dados. O conteúdo nada mais era do que produto deepfake criado por Bill Poster para a empresa Spectre.

Outro problema previsto é a perda de credibilidade de qualquer tipo de material publicado na internet. A tecnologia torna cada vez mais complicado identificar e filtrar que tipo de notícia é verdadeira ou simplesmente criada pelo computador. O que seus olhos e ouvidos vêem e ouvem pode não passar de um produto de um software.

Com a popularização de programas que permitem que leigos criem vídeos do gênero, é possível que pessoas comuns também sejam cada vez mais alvos desse tipo de montagem.

Os resultados podem ir desde a simulação da participação em filmes para adultos até a criação de provas falsas contra alguém.

Por ser um fenômeno recente, os governos ainda não têm leis específicas para combater crimes relacionados ao deepfake. No Reino Unido, o produtor de conteúdo do gênero pode ser indiciado por assédio.

Já nos Estados Unidos, as acusações podem variar entre roubo de identidade, perseguição virtual e pornografia de vingança. No Brasil, ainda não há nenhuma regulação específica a respeito do assunto.

Como identificar um deepfake?

Deepfake Samsung Ai GIF by Cheezburger - Find & Share on GIPHY
Via Cheezburger

Apesar da evolução da técnica, boa parte dos deepfakes amadores ainda podem ser identificados a olho nu. Nesses casos, é possível identificar falta de naturalidade no piscar dos olhos, movimento dos lábios ou a presença de sombras em lugares errados.

No entanto, a preocupação quanto ao futuro é real. Nos Estados Unidos, a Agência de Projetos de Pesquisas Avançadas de Defesa (DARPA, na sigla em inglês) já estaria investindo em formas de identificar melhor os vídeos.

Por enquanto, a melhor medida é estar sempre alerta ao que recebe e ficar atento às fontes de compartilhamento.

O que é o ZAO?

Anunciado em setembro de 2019 na App Store chinesa, o aplicativo ZAO virou notícia em todo o mundo. O programa viralizou por levar aos smartphones a criação de deepfakes a partir de uma foto em apenas 8 segundos.

O resultado beira à perfeição e foi compartilhado no Twitter pelo usuário @AllanXia. O rosto do ator Leonardo DiCaprio foi substituído pelo seu em diversas cenas e a expressividade impressiona.

In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen. Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT

— Allan Xia (@AllanXia) 1 de setembro de 2019

O lançamento do app reabriu o debate sobre tecnologia e privacidade. Primeiramente porque, de acordo com os termos de utilização do programa, ao usá-lo, estaria dando direito à empresa de usar seus dados e rosto para usos comerciais de forma livre e irrevogável.

Após muitas reclamações, a empresa responsável alterou o termo. Agora, afirma que o conteúdo será utilizado apenas pelos desenvolvedores para fins de aperfeiçoamento do aplicativo e da tecnologia usada.

Outra questão preocupante é o fato de o app tornar ainda mais simples a criação das sobreposições com imagens de qualquer um. E com um realismo cada vez maior. Isso poderia tornar mais fácil o surgimento de vítimas de vídeos falsos tidos como reais.

Outros apps de deepfake

Mas essa não é a primeira vez que programas de deepfake viralizam. O primeiro deles foi o FakeApp, lançado em janeiro para 2018 para desktop. Permitia criar e compartilhar vídeos com rostos substituídos com relativa facilidade.

A principal dificuldade era reunir uma grande quantidade de material visual da pessoa que seria inserida, para que o resultado ficasse satisfatório. Atualmente, não é mais possível encontrar o programa disponível.

deepfake

Já em 2019, foi lançado o software Deepnude, para Windows e Linux. A aplicação era capaz de usar a foto de uma mulher vestida e deixá-la nua em poucos cliques.

A imagem falsa era acompanhada por uma marca d'água, mas nada que poucos conhecimentos de edição de imagem não permitissem remover. Em junho do mesmo ano, a empresa anunciou que o programa seria descontinuado.

Se interessa por apps que permitem mudar de visual? Então conheça o Snapchat. O famoso aplicativo permite trocar de rosto com amigos e aplicar filtros no rosto em fotos e vídeos em tempo real.

Confira ainda 7 aplicativos para transformar suas fotos em desenhos facilmente e 8 apps superdivertidos para mudar a voz.

Taysa Coelho
Taysa Coelho
Jornalista formada pela UFRJ, escreve sobre tecnologia há sete anos. Carioca, atualmente, vive em Portugal, país que adotou. No tempo livre, gosta de ir à praia, ler, ver filmes e fazer maratonas de séries. O Instagram é sua rede social favorita, mas é o WhatsApp quem a salva das saudades de quem ficou no Brasil.