Deep Fake é uma tecnologia que usa inteligência artificial (IA) para criar vídeos falsos, mas realistas, de pessoas fazendo coisas que elas nunca fizeram na vida real. A técnica que permite fazer as montagens de vídeo já gerou desde conteúdos pornográficos com celebridades até discursos fictícios de políticos influentes. O termo deep fake apareceu em dezembro de 2017, quando um usuário do Reddit com esse nome começou a postar vídeos de sexo falsos com famosas. Utilizando softwares de deep learning, ele aplicava os rostos que queria a clipes já existentes. Com isso, a expressão “Deep Fake” logo passou a ser usada para indicar uma variedade de vídeos editados com machine learning e outras capacidades da IA.
As deep fakes são criadas através da utilização de softwares baseados em bibliotecas de código aberto voltadas ao aprendizado de máquina. O usuário do Reddit com nome que cunhou essa prática utilizou o TensorFlow (uma biblioteca de inteligência artificial open source da Google) aliado a uma API de deep learning escrita em linguagem de programação Python. Além disso, o programador fornece ao software centenas e até milhares de fotos e vídeos das pessoas envolvidas, que são automaticamente processadas por uma rede neural.
É como um treinamento, no qual o computador aprende como determinado rosto é, como ele se mexe e como ele reage a luz e sombras. E com esse treinamento o programa se torna capaz de encontrar um ponto comum entre as duas faces e “costurar” uma sobre a outra. O procedimento envolve uma espécie de truque, em que o software recebe uma imagem da pessoa A e a processa como se fosse a pessoa B.
Normalmente esse vídeos não são perfeitos, mas são realistas o suficiente para enganar muita gente, gerando diversos problemas na nossa sociedade. Como, por exemplo, a manipulação das imagens e vozes de políticos. Com ferramentas tão acessíveis, fica mais fácil espalhar informações falsas de acordo com interesses próprios, fundamentadas por supostas provas em vídeo. E isso pode representar um perigo para a democracia e a sociedade, inclusive ameaçando a credibilidade de tudo o que é publicado. Consequentemente, levando a debates sobre a ética e as consequências do uso da tecnologia, para o bem ou para o mal.
Postagem escrita pelo voluntário do Capítulo Gabriel Lacerda.