Deepfake: como a inteligência artificial é usada na criação de vídeos falsos

Tecnologia pode ser usada para adulterar vídeos com rostos e vozes de outras pessoas, favorecendo a disseminação de conteúdos falsos

Criar vídeos falsos, mas com aspecto realista manipulando imagens de rostos de pessoas fazendo coisas que elas nunca fizeram na vida real. Isso é possível através do deepfake, uma tecnologia que usa inteligência artificial (IA) para criar um tipo de fake news mais profundo e de difícil checagem.

Com o uso criminoso dessa tecnologia, fica ainda mais difícil saber quem está falando a verdade. Exemplo disso é que a tecnologia permite criar vídeos de discursos falsos, usando imagem e voz de políticos influentes . Neste tipo de fake news, a aparência, o timbre da voz e até as expressões faciais z são idênticas à realidade, mas aquelas palavras nunca saíram da boca de quem aparece no audiovisual. O crime desperta um debate ético e moral sobre o uso dessas ferramentas.

Um dos casos mais notórios e que alavancou a discussão sobre o uso deste recurso foi a divulgação de vídeos falsos que mostram o ex-presidente americano Barack Obama. As deepfake produzidas sobre Obama foram usadas para tentar manipular a política americana. Em um dos materiais, Obama ofende o atual presidente dos EUA, Donald Trump. Observe como a fraude é planejada para simular a realidade:

Origem do termo

O termo surgiu da junção de duas expressões em inglês: “deep learning” (aprendizado profundo) e “fake” (falso), passando a ser usado em dezembro de 2017. A expressão foi adotada quando um usuário do Reddit (rede social na qual as pessoas podem divulgar ligações para conteúdo na Web) com o nome “Deepfake” começou a postar vídeos falsos de sexo com famosas. Com softwares de deep learning, ele conseguia aplicar os rostos que desejava em filmes já existentes. Assim, a expressão deepfake passou a ser utilizada para designar esta categoria de vídeos editados com IA.

Como os deepfakes são criados

Embora a construção de rostos não sejam novidade no mundo do cinema e efeitos especiais, o grande agravante do deepfake está na sua facilidade com que pode ser feito, existindo até aplicativos para smartphones que produzem os mais simples. É um método simples e barato, precisando apenas de um bom processador gráfico e recursos de imagens para fazer um mais complexo e convincente. A produção destes vídeos falsos se baseiam em softwares que utilizam bibliotecas de código aberto voltadas ao aprendizado de máquina.

Consequências do deepfake

Embora tenham pequenas falhas, os vídeos deste tipo conseguem ser realistas o suficiente para enganar muitas pessoas. O problema está justamente como o caso ilustrado por Obama e nas más intenções dos criadores destes vídeos para manipulação e compartilhamento de informações falsas, fundamentadas e justificadas por meio destes conteúdos.

No nível macrossocial, assim como as demais fake news, as deep fake ocasionam um risco para a democracia e o sistema no qual está fundamentada a sociedade, colocando em xeque a credibilidade de conteúdos verdadeiros.A disseminação do deepfake contribui para vários problemas sociais que podem incluir desde incitar a violência, manipulação política, influenciar eleições e votações, até mesmo humilhar e atacar instituições.

No nível pessoal, a imagem e a reputação dos indivíduos é atacada e pode trazer danos irreversíveis. É o caso de mulheres que foram colocadas em situações constrangedoras e humilhantes em cenas de sexo falsas. A exposição dessas pessoas é um ataque à dignidade humana e uma ameaça ao bem estar social das vítimas desse tipo de armadilha. O conteúdo tem a força e proporção de viralização das chamadas fake news, sendo até mais problemático, uma vez que a imagem e a voz de uma pessoa específica legitima o que foi visto ou dito.

Como identificar um deepfake

Os deepfakes já fazem parte da realidade e é necessário saber reconhecê-los para não acreditar em um conteúdo falso. Mesmo que possuam uma boa qualidade e cheguem muito próximo de algo realista, ainda existem alguns detalhes e falhas que podem ser usados para os identificar. Algumas dicas são:

• Preste atenção nos movimentos da boca para ver se estão alinhados com o que está sendo dito;

• Atente ao tom da voz, ela sofre variações de tom ou tem mudança de ritmo?

• Veja se olhos piscam e qual sua movimentação;

• Repare na movimentação durante a respiração e nas pausas das falas;

• Observe os outros aspectos do corpo e a movimentação, eles encaixam no que está sendo dito? Existem falhas entre as partes do corpo?

• Procure o vídeo ou notícias sobre o assunto em sites e jornais confiáveis.

Em janeiro deste ano, o Facebook anunciou que vai começar a banir vídeos com deepfake da sua plataforma para tentar amenizar os efeitos dessa forma de manipulação da realidade. Os vídeos serão excluídos quando as edições não forem tão evidentes para o usuário da rede ou se ficar óbvio que o material foi usado para enganar o consumidor. A medida não inclui produções humorísticas.

Outros usos da tecnologia

Embora a deepfake venha acompanhada com todos estes aspectos negativos, existem pessoas a utilizando de formas distintas, como sátiras e outras variações de humor. Um exemplo é o jornalista e criador de conteúdo Bruno Sartori que produz vídeos com tons humorísticos, mas que carregam críticas políticas. Sartori utiliza desta tecnologia para ilustrar o cenário atual brasileiro e compartilha suas materiais em suas redes sociais, como o vídeo divulgado nesta segunda-feira (27), no qual brinca com o pedido de demissão do ex-juiz Sergio Moro do Ministério da Justiça do governo de Jair Bolsonaro, traçando um paralelo com a novela Avenida Brasil. Neste caso, fica evidente que o objetivo é gerar humor e não há risco de confusão entre a imagem dos envolvidos e àquela da ficção da teledramaturgia. Por isso a importância da educação midiática: o discernimento entre diferentes gêneros, formatos e linguagens do universo midiático auxiliam o cidadão a compreender produtos e intenções de cada peça de comunicação.