O que é e como funciona a tecnologia deepfake?

Imagine uma nova tecnologia de mídia capaz de permitir que uma pessoa simplesmente pegue um determinado texto, imagem, vídeo ou áudio existente e depois manipule-o de tal forma ao ponto de “fingir” ser alguém usando conceitos avançados de inteligência artificial (AI) e rede neural (NN). Bizarro, não é mesmo? Pois bem, essa tecnologia já existe e se chama deepfake.

Quer colocar palavras comprometedoras na boca do seu inimigo? Deseja trocar o protagonista de um determinado filme com sua estrela favorita de Hollywood? Ou quer simplesmente dançar como Michael Jackson? Pois bem, para cada uma dessas opções, a tecnologia deepfake é a única coisa que você precisa!

A quantidade de conteúdo ligada à tecnologia deepfake está crescendo exponencialmente. Infelizmente, ela já foi usada para manchar a reputação de rivais políticos e serviu até mesmo como ferramenta para a aplicação de fraudes financeiras. Ou seja, mesmo se tratando de algo relativamente recente, a tecnologia deepfake evoluiu de uma ingenuidade tecnológica para uma arma maliciosa de calúnia.

Neste artigo, veremos como ela funciona na prática, quais são as suas diferentes formas e como podemos detectar uma criação deepfake.

Vídeos quase realistas

Está a forma mais usada de deepfake, já que estamos vivendo no mundo onipresente das mídias sociais onde fotos e vídeos elucidam eventos e histórias melhor do que um simples texto. Este truque de vídeo emprega uma técnica chamada rede adversária generativa (GAN). A GAN faz parte das chamadas “redes neurais”, que são redes projetadas para emular os processos neuronais do cérebro humano. Assim, os programadores podem treinar essas redes neurais para reconhecer ou manipular uma tarefa específica.

Nesse método usado para a produção de vídeos deepfake, duas redes neurais são colocadas uma contra a outra para gerar um resultado realista. A primeira rede é chamada de “gerador”, cujo trabalho é gerar uma imagem forjada usando vetores (uma lista de números aleatórios). A segunda rede, chamada “discriminadora”, determina a veracidade das imagens geradas ao comparar a imagem falsificada produzida pelo gerador com as imagens genuínas no conjunto de dados para determinar quais imagens são reais e quais são falsas.

Com base nesses resultados, a rede geradora varia os seus parâmetros para gerar imagens. Esse ciclo continua até que o discriminador não consiga verificar se uma imagem gerada é falsa. É por isso que os vídeos deepfakes parecem ser tão reais.

Ainda assim, um vídeo deepfake tende a apresentar diferenças discerníveis por conta da forma como os metadados do novo vídeo são distribuídos, em comparação com o original. Por exemplo, as pessoas recriadas nesse tipo de vídeo dificilmente piscam os olhos e, quando fazem isso, a piscada não aparenta ser natural. Além disso, a movimentação rígida dos lábios e a forma como a cabeça balança também podem fornecer pistas indicativas de que o vídeo é falso.

Texto deepfake

Com os poderosos modelos de linguagem que foram construídos ao longo dos anos pelo trabalho incremental de pesquisadores e profissionais da ciência de dados, ferramentas de software agora podem compor textos absurdamente coerentes.

Tomemos, por exemplo, o GPT-2, um sistema de geração de texto lançado pelo laboratório de pesquisa OpenAI do Vale do Silício. Essa tecnologia impressionou os especialistas com sua capacidade de produzir textos coerentes com o mínimo de erros. Usando o GPT-2, você pode simplesmente inserir o título e o algoritmo de texto deepfake gerará uma redação fictícia em torno desse título. Você também pode simplesmente fornecer uma primeira linha de um poema e ele retornará o versículo inteiro.

Muitas agências de mídia estão usando algoritmos deepfake para gerar textos e postagens de blogs escritos pelo próprio software. Juntamente com a geração de artigos, a tecnologia deepfake também pode ser aproveitada para criar um perfil on-line falso tão realista que seria difícil para um usuário normal discernir.

Para combater a disseminação de notícias falsas que fazem o uso dessa tecnologia, pesquisadores do Instituto Allen de Inteligência Artificial desenvolveram uma ferramenta de software chamada Grover para detectar conteúdos falsos online. Os pesquisadores afirmam que este software é capaz de detectar textos escritos por deepfake em 92% dos casos.

Áudio deepfake

O poder da inteligência artificial e das redes neurais não se limita apenas a textos, imagens e vídeos. Essas tecnologias podem clonar a voz de uma pessoa com a mesma facilidade. Tudo o que é necessário é um conjunto de dados da gravação de áudio da pessoa cuja voz precisa ser emulada. Os algoritmos do deepfake aprenderão com esse conjunto de dados e se capacitarão para recriar um novo áudio.

Alguns softwares como o Lyrebird e o Deep Voice precisam que você fale apenas algumas frases antes que a IA se acostume com sua voz e entonação. À medida que você alimenta a biblioteca com mais áudios, esse software se torna poderoso o suficiente para clonar sua voz. Depois de alimentar o conjunto de dados de suas próprias amostras de áudio, você pode simplesmente inserir uma frase ou um parágrafo e este software deepfake narrará o texto com a voz desejada!

Vale destacar que empresas gigantes da tecnologia também estão trabalhando em sistemas de detecção de deepfakes. O Facebook anunciou recentemente que está trabalhando em um sistema automatizado para identificar conteúdos deepfake em sua plataforma e eliminá-los. Em linhas semelhantes, o Twitter propôs sinalizar deepfakes e eliminá-los se forem considerados provocadores.

Apesar de já podermos reconhecer e apreciar os esforços dessas empresas de tecnologia, apenas o tempo dirá quão bem-sucedidas elas serão em manter os deepfakes maliciosos à distância.

Muito interessante, não é mesmo? Compartilhe o post e deixe o seu comentário!