Como o ambiente online se tornou o principal canal de consumo e divulgação de conteúdo, cada vez mais aparecem aquelas informações falsas que muitas vezes são bem difíceis de identificar. As chamadas deepfake surgiram com o objetivo de ofuscar o que é realidade e o que é fake news.
Elas fazem com que as pessoas acreditem em coisas mentirosas ou mesmo fazendo todos se questionarem o tempo inteiro se o que estão vendo é real.
O grande problema é que esses deepfakes são criados pela inteligência artificial e com uma produção tão bem feita que fica complexo identificar se é verdade ou não.
Além disso, em alguns períodos é bem mais comum ocorrerem esses fatos, como durante a pandemia da covid-19, nas notícias sobre a Guerra da Ucrânia e, principalmente, em período de eleições.
Neste artigo você vai entender o que é o deepfake, como são feitos e utilizados, além de alguns exemplos e algumas dicas para identificá-los nessa grande imensidão que é a internet. Confira!
O que é deepfake?
Imagina ver seu rosto em um vídeo aleatório e sem você saber? Ou ouvir um áudio com sua voz dizendo coisas que jamais diria? Isso é o deepfake, ou seja, são vídeos ou áudios ou outras edições gráficas manipuladas e bem realistas criadas a partir da inteligência artificial e internet das coisas.
Seu objetivo é usar áudios, imagens e rostos de outras pessoas em um material recreativo ou para espalhar alguma desinformação. Hoje é possível também encontrar deepfakes textuais, com com máquinas de escrita gerada por inteligência artificial, além de criação de perfis falsos nas redes sociais e até mesmo transmissão por lives fakes.
A tecnologia está bem avançada e se você não prestar bastante atenção no que está olhando na internet, pode estar consumindo um deepfake sem saber.
Como são usados os deepfakes?
Na maioria das vezes os deep fakes são utilizados de uma maneira mais inofensiva, com memes, filtros e outras edições para redes sociais. No entanto, há quem goste de criá-los e divulgá-los de forma maliciosa para espalhar desinformação e notícias sensacionalistas.
Conforme falado anteriormente, é comum visualizar conteúdos desse estilo no período de eleições, devido a alta competição entre os partidos e a necessidade de desmascarar ou camuflar os discursos dos candidatos.
Outro caso bem recorrente são em acontecimentos que abrangem todo o mundo, como a pandemia da covid-19, onde circulavam notícias de cura para a doença, tratamento e prevenção, como a água com limão e mel, e outros comentários que nada era comprovado cientificamente.
A tecnologia pode ser usada em muitos tipos de materiais falsos, desde manipulação política e fake news, até chantagem e revenge porn, ou pornografia de vingança. Tudo de forma automatizada e com deep learning.
O grande problema é que qualquer um com tecnologia pode fazer um vídeo de uma pessoa dizendo ou fazendo praticamente qualquer coisa.
Exemplos de deepfake
Os melhores exemplos de deepfake são geralmente aqueles criados especificamente para demonstrar o poder dessa tecnologia, sendo alguns mais divertidos e outros mais aprimorados.
Uma deepfake famosa é a do Barack Obama, em que ele fala um palavrão e xinga o ex-presidente Donald Trump. Este vídeo viralizou nos canais americanos e no Twitter na época.
Outro exemplo foi do relacionado à Guerra da Ucrânia, onde um vídeo falava que a Rússia deveria voltar as armas para as famílias ucranianas, conforme informado neste link.
Agora falando de diversão, um exemplo é um perfil criado para mostrar TikToks fakes do Tom Cruise. Você pode conferir neste link.
Outro seria um deepfake do Jon Snow se desculpando pelo final de Game of Thrones.
Como são feitos os deepfakes?
A criação dos deepfakes partem de um compilado de muitas imagens, vídeos e áudios dispostos na internet, além de um aprendizado de ferramentas que fazem essas edições no computador ou qualquer dispositivo móvel.
Esse processo é conhecido como autoencoder variacional (VAE), com o intuito de treinar os VAEs para capturarem diferentes tipos de iluminação, posições e expressões emocionais.
Assim, uma IA é alimentada com os dois grupos de imagens: as originais e as do alvo. Depois ela cria as imagens de saída, e pronto, a produção ficou finalizada.
Deepfakes são permitidos por lei?
Embora possam causar alguns males, os deepfakes são legais em quase todos os lugares. Mas a legalidade de vídeos depende do contexto e do seu uso, além da especificação de cada país.
Nos EUA, leis específicas estão sendo implementadas. Alguns estados americanos têm leis contra a pornografia de vingança, mas poucos deles especificam os deepfakes como algo ilegal. Já o Reino Unido, por exemplo, não tem nenhuma lei específica para combatê-los.
Enquanto na China, foi aprovada uma lei referente aos deepfakes que condena a própria plataforma onde o vídeo foi publicado, proibindo que elas recomendem conteúdos sintéticos.
Afinal, como identificar um deepfake?
Independente do tipo de conteúdo que o deepfake está divulgando, o mais importante é saber identificá-los para não cair em nenhuma pegadinha ou notícia falsa.
Alguns pontos são comuns nessas produções que podem lhe ajudar a visualizar a falsidade da produção, são eles:
Identifique falhas no áudio
As principais falhas nos deepfakes estão nos áudios. Por isso, ao assistir um, preste atenção na voz do interlocutor, se está abatida, estranha ou se não está sincronizado com os movimentos físicos da boca do personagem.
Verifique inconsistência em sombras e tons de pele
Ter sombras e tons de pele contrastando perfeitamente é bem difícil, pois é uma edição complexa. Ao assistir preste atenção nesses elementos, pode ser ali que você identifique o erro, como algum ponto embaçado, falta de sincronização ou alinhamento.
Confira se há áreas claras ou borradas
Ter áreas muito claras ou borradas em um vídeo, principalmente ao redor da boca, são outras dicas de que estamos diante de um deepfake.
Sabendo desses fatores, a partir de agora você consegue analisar o que é real e o que é montagem na internet, principalmente quando são relacionadas a assuntos polêmicos.
Se você quer se tornar um especialista nessa análise ou mesmo entrar nesse ramo de tecnologia e suas engenharias, tem um Bootcamp aqui na XP Educação voltado para as pessoas que gostam desse setor.
Confira mais detalhes sobre o Bootcamp online Engenheiro(a) de Machine Learning e prepare-se caso queira construir uma carreira nessa área de máquinas inteligentes.
