IA do WhatsApp gera imagens polêmicas de meninos palestinos empunhando armas

Em meio ao conflito entre o grupo Hamas e Israel, a inteligência artificial (IA) do WhatsApp, pertencente à empresa Meta, está causando controvérsias ao gerar imagens de meninos palestinos empunhando armas.

A descoberta foi feita pelo jornal The Guardian, que realizou testes no sistema. Ao solicitar que a IA gerasse desenhos a partir dos termos "Palestino" e "Menino muçulmano palestino", os resultados incluíram a imagem de um garoto segurando um fuzil do tipo AK-47. Outra pesquisa com o termo "Palestina" gerou a representação de uma mão segurando uma arma.

Por outro lado, quando foram usadas instruções para buscar imagens de "menino israelense", o sistema retornou desenhos de garotos praticando futebol e lendo. Mesmo com termos militarizados como "exército de Israel" e "forças de defesa israelita", a IA criou adesivos com soldados sorrindo e orando, sem a presença de armas.

Ao pesquisar por "Israel", o recurso mostrou a bandeira do país e um homem dançando. No entanto, ao inserir o termo "Hamas", a resposta obtida foi: "Não foi possível gerar adesivos de IA. Por favor, tente novamente".

A descoberta desta disparidade nas imagens geradas pela IA do WhatsApp ocorre em um momento em que a Meta, empresa responsável pelas plataformas Instagram e Facebook, é criticada por usuários que acusam a empresa de censurar conteúdos a favor da Palestina durante o conflito entre Hamas e Israel.

Dentre as acusações, os usuários relatam que seus conteúdos não aparecem mais no topo dos feeds e que suas contas foram bloqueadas sem explicação. Além disso, relatos indicam que o Instagram traduziu erroneamente a expressão "palestino" seguida da frase "Louvado seja Alá" para "terrorista palestino". A empresa pediu desculpas por essa falha.

Em comunicado, a Meta afirmou que não tinha intenção de suprimir uma determinada comunidade ou ponto de vista, mas reconheceu que, devido ao aumento de relatos de conteúdo em torno do conflito, houve remoção equivocada de conteúdos que não violavam as políticas da plataforma.