Fraudes com deepfake crescem 3.000% em 2023 com explosão de IAs

Um relatório produzido pela empresa de verificação de identidade Onfido revelou que golpes usando deepfakes tiveram um boom em popularidade durante o ano de 2023. O principal motivo para isso, segundo o estudo, seria a popularização de mecanismos de inteligência artificial (IA).

De acordo com o documento, fraudes envolvendo a manipulação de rostos e a "colagem" da aparência de uma pessoa por cima de outra subiram 31 vezes (ou 3.000%) neste ano em relação aos casos registrados em 2022. 

A grande maioria desses golpes foram considerados "pouco sofisticados" ou facilmente distinguíveis por possíveis vítimas, mas a qualidade desse tipo de enganação deve aumentar consideravelmente nos próximos anos. 

Isso porque softwares de IA generativa ou que realizam "colagens" de rostos para trocar a face de alguém estão ficando populares e melhorando consideravelmente, até chegar ao ponto de o resultado ficar praticamente igual ao conteúdo original.

Os novos golpes envolvendo deepfakes

O gráfico produzido pela Onfido só com tentativas de burlar sistemas de segurança em seus próprios produtos mostra que o aumento dos golpes acompanha o lançamento do ChatGPT, em novembro de 2022, e a distribuição de outras ferramentas de IA generativa nos anos seguintes.

A popularização dos golpes de deepfake com IA a partir de 2023.

Os cibercriminosos também estão aproveitando ferramentas de IA para outras atividades como falsificar documentos, sequestrar transmissões de câmeras de segurança e burlar mecanismos de proteção com biometria.

Ainda de acordo com o estudo, boa parte das fraudes — tanto as mais "cruas" quanto as sofisticadas — envolvem o roubo de identidade e a tentativa de verificar uma conta a partir de montagens.

De posse de características faciais do usuário e um motor de IA capaz de gerar um modelo digital com o mesmo rosto da vítima, pessoas mal intencionadas podem realizar cadastros e aplicar golpes fingindo ser outra pessoa — que pode ser até uma celebridade ou um suposto especialista que teve a aparência clonada.

Por outro lado, a Onfido aponta ainda que a própria IA precisa ser utilizada como um aliado na defesa contra os deepfakes. Afinal, sistemas avançados de algoritmos de detecção facial podem ajudar a encontrar essas fraudes em larga escala e de forma quase automática. Isso evitaria "na raiz" esse tipo de golpe, especialmente porque é possível melhorar o próprio sistema de detecção com o tempo a partir de mecanismos de aprendizagem de máquina.