Google usa IA para reduzir resultados ofensivos no buscador

O Google anunciou nesta quarta-feira (30), em seu blog, que está usando recursos de Inteligência Artificial (IA) para reduzir resultados inesperados e potencialmente ofensivos em seu Buscador. O objetivo dessas melhorias introduzidas na plataforma é aumentar a segurança, de forma a impedir que, durante uma pesquisa, um usuário seja exposto “a resultados inesperados, explícitos ou potencialmente ofensivos”.

Segundo o vice-presidente da Busca do Google, Pandu Nayak, os avanços tecnológicos reduziram, só no ano de 2021, a exposição a esse tipo de resultado em 30%. Os conteúdos explícitos se relacionam geralmente “a questões de etnia, orientação sexual e gênero – temas que têm um impacto muito maior para mulheres, sobretudo mulheres negras”, disse o executivo.

Os avanços só foram possíveis graças à criação de dois principais sistemas de IA pelo Google: o BERT, algoritmo de processamento de linguagem natural, e o MUM (Multitask Unified Model), que consegue detectar o contexto e até mesmo a intenção por trás das pesquisas. O BERT se encontra em um estágio no qual é capaz de entender quando uma pesquisa não está tentando encontrar um conteúdo explícito, e reduzir drasticamente as chances de que isso ocorra.

Informações confiáveis e úteis, no momento necessário

Fonte: Shutterstock/Reprodução.

Como o MUM é capaz de compreender melhor as intenções por trás das perguntas digitadas, ele consegue detectar situações nas quais as pessoas estão passando por dificuldades, como tentativa de suicídio, agressão sexual, uso abusivo de substâncias e violência doméstica. Por isso, o Google usará em breve a ferramenta para colocar esses usuários em contato com organizações parceiras locais.

No Brasil, por exemplo, pesquisas que indiquem que a pessoa esteja passando por momentos de crise são direcionadas, no topo dos resultados da Busca do Google, para um canal direto de suporte gratuito do Centro de Valorização à Vida (CVV). No site da instituição, profissionais prestam atendimento imediato via chat ou telefone.