7 mitos e verdades sobre deepfake

Segundo dados da Kaspersky, o número de vídeos utilizando golpes por deepfake online teve um aumento de 900% em um ano. Apesar de divertido e capaz de aumentar as possibilidades de criação de conteúdos, essa tecnologia também tem o potencial de causar danos significativos, desde desinformação até ataques à reputação, uma vez que ela consegue clonar a imagem ou a voz de alguém. Entre empresas ou até mesmo no dia a dia de pessoas físicas, o uso dos deepfakes para fraudes também é algo que preocupa.

Por isso, as companhias estão buscando cada vez mais soluções eficientes para evitar as fraudes utilizando deepfakes. Para Marcelo Peixoto, CEO da Minds Digital, Voice ID Tech pioneira em biometria de voz no Brasil, a autenticação por voz se apresenta como uma solução promissora para combater esses golpes. “A partir da tecnologia de anti-spoofing, a IA consegue determinar se o conteúdo é de uma voz natural ou sintética, sabendo diferenciar suas características únicas e se ela é humana ou produzida artificialmente. Com a tecnologia unida à ciência de dados, conseguimos altos níveis de acurácia, para autenticar clientes em 1 segundo, gerando uma fricção mínima na experiência do cliente”, afirma o executivo.

Diante desse cenário, o CEO da Minds Digital listou mitos e verdades sobre deepfake. Confira:

1. Deepfakes sempre são fáceis de detectar

Mito. Os deepfakes nem sempre são fáceis de detectar. Embora existam avanços constantes na identificação, especialmente por meio de métodos baseados em inteligência artificial, como análise de padrões e reconhecimento de anomalias, os criadores também estão constantemente refinando suas técnicas para torná-los mais convincentes e indetectáveis.

2. Deepfakes podem ser usados para desinformação

Verdade. A capacidade de criar vídeos convincentes de eventos fictícios ou declarações falsas pode ser explorada para espalhar desinformação e manipular a opinião pública.

3. Deepfakes são usados apenas para criar conteúdo de entretenimento

Mito. Embora casos de vídeos e músicas utilizando imagens e vozes de artistas sejam conhecidos, a tecnologia é usada para diversos propósitos, incluindo sátira política, paródias, e até mesmo fins maliciosos, como golpes de phishing ou contra a reputação de pessoas.

4. A tecnologia por trás dos deepfakes está em constante evolução

Verdade. Os avanços na inteligência artificial, especialmente em redes neurais e aprendizado profundo, continuam a melhorar a qualidade e a autenticidade dos deepfakes.

5. Em IAs mais evoluídas, é impossível detectar se é deepfake

Mito. Por mais que existam preocupações sobre o uso de tecnologias avançadas, sempre é possível determinar se algum conteúdo é sintético. Afinal, da mesma forma que a tecnologia evolui para a criação do conteúdo, ela evolui na detecção desses indícios que se trata de um conteúdo fake.

6. Existem esforços para combater deepfakes

Verdade. Pesquisadores e empresas estão investindo em ferramentas de detecção de deepfakes e em métodos para autenticar conteúdo digital.

7. Deepfakes levantam preocupações éticas e legais

Verdade. O uso não consensual de deepfakes pode violar a privacidade das pessoas e causar danos à reputação. Muitos países estão considerando ou implementando legislações para lidar com o uso inadequado de deepfakes, como no Brasil, que recentemente foi aprovado o Plano Nacional de Cibersegurança.