Empresas de IA se comprometem a combater deepfakes de pornografia
Tecmundo
Empresas de inteligência artificial, entre as quais algumas gigantes da tecnologia, se comprometeram a tomar medidas para combater o abuso sexual baseado em imagens, incluindo deepfakes geradas por IA. O anúncio foi feito pela Casa Branca na quinta-feira (12).
O acordo intermediado pelo governo dos Estados Unidos faz parte de uma campanha contra a disseminação de imagens íntimas não consensuais de adultos e materiais de abuso sexual infantil. Segundo a administração de Joe Biden, o compartilhamento de tais conteúdos disparou, trazendo graves consequências para mulheres, crianças e pessoas LGBTQI+.
Responsável pelo ChatGPT, a OpenAI foi uma das fornecedoras que firmaram acordo, voluntariamente, para remover imagens de nudez dos conjuntos de dados utilizados para o treinamento de IA, “quando apropriado e dependendo do propósito do modelo”, como afirma o comunicado. A Anthropic, dona do Claude, fez a mesma promessa.
Além delas, o compromisso foi assumido por Microsoft, Adobe e Cohere, assim como a plataforma de rastreamento de dados Common Crawl. Esta última disse que vai obter seus conjuntos de informações de forma responsável e os protegerá contra o abuso sexual baseado em imagens, porém não foi incluída nos demais tópicos.
Outras iniciativas
A administração federal dos EUA destacou, ainda, outras iniciativas para reduzir os riscos de que as plataformas de IA gerem imagens abusivas. O GitHub, por exemplo, começou a proibir o compartilhamento de ferramentas que incentivem, promovam ou apoiem a criação de imagens íntimas não consensuais.
Por sua vez, a Meta impediu a promoção de apps e serviços que gerem tais conteúdos em suas plataformas, além de ter removido milhares de contas do Instagram envolvidas em golpes de sextorsão. Já a Snap se comprometeu a disponibilizar recursos para denúncias e auxílio às vítimas de deepfakes de pornografia.
O Google também anunciou iniciativas na área, incluindo atualizações na busca para diminuir a exibição de imagens falsas de conteúdo explícito nos resultados. A gigante de Mountain View ainda prometeu facilitar a remoção desses materiais após solicitação das vítimas.
