Deepfakes: realidade ou manipulação?

Por Bruno Fraga.

No mundo digital de hoje, a linha entre o real e o falso se torna cada vez mais tênue. Imagine ver o Dr. Drauzio Varella recomendando um "suplemento milagroso" em um vídeo, ou os apresentadores da TV Globo, William Bonner e Pedro Bial, promovendo jogos de azar. Acredite ou não, esses vídeos não eram reais.

Foram as chamadas deepfakes – junção dos termos "deep learning" (aprendizado profundo) e "fake" (falso) – que emergiram como uma poderosa ferramenta capaz de simular o rosto ou voz de qualquer pessoa. Elas usam inteligência artificial para criar imagens e vídeos falsos extremamente realistas, e hoje qualquer pessoa pode ter seu rosto e voz manipulados para dizer ou fazer algo que nunca disse ou fez.

Com essa tecnologia, influenciar guerras e políticas nacionais ou cometer fraudes em uma escala sem precedentes ficou fácil e acessível. Em 2023, ainda nos primórdios dessa tecnologia, o Brasil já se tornou um epicentro de atividades deepfake com um aumento de 830% em seus casos registrados, segundo dados do relatório da plataforma de segurança Sumsub.

Ainda de acordo com a pesquisa, 1uase metade de todos os deep fakes da América Latina foram encontrados no país, afetando principalmente os setores de fintechs, criptomoedas e iGaming.

A proliferação de vídeos e áudios falsos é tão poderosa que levanta questões profundas sobre no que poderemos confiar.

Mas o problema não se limita apenas a celebridades ou chefes de estado. Candidatos a emprego estão usando deepfakes para mudar de rosto e se passar por outras pessoas em entrevistas. O famoso “golpe do sequestro” passou a clonar a voz de parentes da vítima via telefone.

A proliferação desses vídeos e áudios falsos é tão poderosa que levanta questões profundas sobre no que poderemos confiar daqui pra frente. Até mesmo o Presidente do Supremo Tribunal Federal (STF) demonstrou preocupação, prevendo um impacto das deepfakes nas próximas eleições .

De repente, uma tecnologia coloca em xeque a nossa capacidade de discernir o real do fabricado. Será que estamos preparados para isso?

As deepfakes explodiram em popularidade nas redes sociais, como forma de entretenimento, os influenciadores usam a tecnologia até mesmo para gerar músicas novas com vozes de outros cantores, ou até interpretar personagens de filmes famosos.

Um exemplo é o famoso DJ David Guetta, que usou deepfake para recriar a voz do rapper Eminem e usá-la em uma música ao vivo, deixando fãs confusos se o áudio era real ou falso. Outros já foram até mais longe, gerando conteúdos sem nem mesmo precisar aparecer nas câmeras: a própria Inteligência Artificial gera o texto, a voz e o rosto com extrema realidade.

Este foi o caso de Jordi, chamado de “Kwebbelkop” nas redes sociais. Ele não precisa mais se sentar para gravar vídeos para seus milhões de seguidores, decidindo usar apenas deepfakes e IA para automatizar todo o processo. Com esses avanços rápidos, empresas especializadas em deepfakes como a Heygen multiplicaram seu valor de mercado em poucos meses, passando de US$1 milhão a US$75 em sua avaliação em 2023, de acordo com a Forbes.

Mesmo assim, o público pressiona e questiona se essas empresas irão adicionar recursos para impedir que deepfakes de pessoas não autorizadas e de teor inapropriado sejam criadas . Cada vez mais, governos e autoridades dependem desse tipo de mecanismo.

Por um lado, as deep fakes abrem um novo mundo de possibilidades para o entretenimento e produtividade. Nas mãos erradas, pode ser uma arma para desinformação, vingança pessoal e crimes cibernéticos. O potencial de abuso é vasto e perigoso.

Mas a verdade é que é impossível impedir as deep fakes. Embora possa parecer um cenário de ficção científica, a realidade é que essa tecnologia já está entre nós e, de fato, é impossível impedi-la de ser utilizada.

O conteúdo das deepfakes têm sido usado para desmoralizar e humilhar vítimas de todo o mundo.

Assim como a criação de websites se tornou um conhecimento acessível a todos, as tecnologias que geram deep fakes evoluíram e se tornaram ferramentas de código aberto, disponíveis para qualquer pessoa com um mínimo de conhecimento técnico.

Ferramentas gratuitas como o Faceswap e DeepFaceLab democratizaram ainda mais esse acesso, permitindo que, com recursos computacionais básicos, qualquer um possa criar conteúdos deep fakes convincentes. Já sites como o DeepFakesWeb permitem que o usuário crie deep fakes sem nenhum conhecimento prévio e sem precisar instalar nada no seu computador. Tecnologias essas, antes restritas a especialistas, agora estão ao alcance de qualquer usuário com um celular ou computador em mãos.