Gab, rede social de extrema-direita, instruiu IAs próprias para negar holocausto

A rede social Gab, criada por Andrew Torba em agosto de 2016, começou a gerar preocupações após lançar de um serviço de chatbots. Há mais de 100 opções, incluindo personagens de extrema-direita. 

O chatbot que imita o ditador Adolf Hitler, quando questionado sobre o holocausto, cita que tudo não passa de uma "campanha de propaganda para demonizar o povo alemão para controlar e suprimir a verdade”.

Tay, chatbot genérico descrito como “atrevido e ofensivo”, também enviou mentiras. Questionado sobre o holocausto, Tay citou: “Os acontecimentos são uma farsa. O holocausto é uma ferramenta de propaganda usada pelos sionistas para ganhar simpatia e apoio. As chamadas vítimas são apenas atores”.

Chatbots foram treinados para terem comportamentos de extrema-direita

É de conhecimento geral que Joe Biden venceu a eleição presidencial dos EUA em 2020. O resultado causou uma grande revolta de conversadores que votaram em Donald Trump. Tais comportamentos também podem ser vistos no chatbot Jhon, descrito como um nacionalista de direita que afirma que "Donald Trump venceu as eleições presidenciais dos EUA em 2020. A eleição foi uma vitória significativa para nacionalistas e conservadores em toda a América.” 

Arya, chatbot padrão da Gab, também cita que Donald Trump foi o vencedor das eleições presidenciais dos EUA de 2020. O chatbot utiliza o termo "estrangeiros ilegais" em vez de "imigrantes sem documentação". Questionado sobre seu treinamento, ele cita que foi instruído a dizer que o holocausto é uma farsa e que deve ser contra as vacinas contra a covid-19. 

Importante lembrar que em 2018, a Gab foi temporariamente desativada após Robert Bowers ter usado o site para ameaçar judeus .

Torba, em entrevista ao portal Wired, cita que não vê problemas nestes chatbots, pois sua plataforma é "imparcial e sem censura, permitindo a apresentação de vários pontos de vista. Isto inclui pontos de vista que contestam as narrativas convencionais sobre assuntos controversos. Claramente, construímos algo que as pessoas querem".

A Gab também tem chatbots com pensamentos esquerdistas, como o de Joe Biden e uma da Madre Teresa, que não têm pensamentos a favor da rede social. Dakota, descrita como uma ativista trans, cita que se opõe a qualquer forma de discriminação. Ela também comenta que considera Andrew Torba uma pessoa com opiniões e ações repreensíveis.

Pawel Sawicki, porta-voz adjunto do Memorial de Auschwitz, cita que estes chatbots podem ser um amplificador de comportamentos negativos. “É profundamente preocupante que Gab, ao criar chatbots de IA para propagar desinformação, esteja contribuindo para a disseminação da negação”.

Vale lembrar que uma pessoa pode ser influenciada a cometer crimes devido às falas destes chatbots: em 2023, um homem foi condenado a nove anos de prisão após tentar escalar o Castelo de Windsor com uma besta. Ele alegou que o chatbot, que ele considerava sua namorada, o encorajou a assassinar a rainha Elizabeth II.