O algoritmo é racista?

Por André Menezes.

Numa rápida olhada no Instagram, Twitter ou TikTok, é possível observar que influenciadoras pretas com mais de 1 milhão de seguidores no Brasil são bem difíceis de encontrar, ao passo que brancas colecionam marcas surpreendentes de 30 a 40 milhões, o que revela um cenário muito claro do racismo algorítmico nas redes sociais, principalmente com influenciadores digitais, que usam essas plataformas para gerar conteúdo e renda .  

Vale lembrar que os algoritmos em si não têm emoções, crenças ou preconceitos, incluindo o racismo. Eles são ferramentas matemáticas e computacionais criadas por seres humanos para realizar tarefas específicas. 

No entanto, é possível que os algoritmos apresentem resultados discriminatórios ou racistas se forem desenvolvidos ou treinados de forma inadequada. Isso pode acontecer se os dados de treinamento contiverem viés ou refletirem desigualdades sociais, levando o algoritmo a perpetuar essas desigualdades em suas previsões ou decisões.

No Brasil, 131,5 milhões de pessoas passam a maioria do tempo conectados à internet. O país é o terceiro do mundo que mais usa as redes sociais, é o que revela os dados da pesquisa “Tendências de Social Media 2023”, um levantamento da Comscore. Até mesmo com um número astronômico de pessoas conectadas à rede, é possível notar como o racismo algorítmico se comporta. A maioria dos influenciadores pretos sentem que não têm o mesmo alcance que os brancos, ganham menos em ações publicitárias e sofrem mais preconceito. 

Em 2020, a Black Influence, em parceria com o Site Mundo Negro, YOUPIX e Squid e Sharp, divulgou um estudo inédito, intitulado “Black Influence: um retrato dos creators pretos do Brasil”. O estudo teve como objetivo ouvir cerca de 760 criadores de conteúdo, entre brancos, pardos, pretos, amarelos e indígenas. Os resultados revelam que influenciadores pretos são menos contratados para campanhas de publicidade. Para fazer o mesmo trabalho, um influenciador branco recebe R$ 2.426,92, enquanto um negro recebe R$ 1.626,83. Uma diferença de 51,1%, segundo a pesquisa. 

Influenciadores pretos são menos contratados para campanhas de publicidade. A pergunta que fica é: por quê?

Vale ressaltar que no último censo, de 2022, 56% da população brasileira se autodeclarou negra, de acordo com dados do Instituto Brasileiro de Geografia e Estatística (IBGE). Diante deste número, a pergunta que fica é: por que as pessoas pretas não têm o mesmo engajamento que as brancas nas redes sociais? 

A questão do viés e da equidade em algoritmos é uma preocupação séria e uma área de pesquisa e desenvolvimento contínuo na comunidade de IA.A melhoria contínua e a responsabilidade são essenciais para criar sistemas de IA mais justos e éticos.

Entender como o racismo também se comporta no ambiente virtual é muito importante. Influenciadores negros existem e também merecem ser engajados, compartilhados, vistos. A pauta antirracista só avança quando toda uma sociedade também se mobiliza com ela.   

****

André Menezes é gerente de programas na Netflix. Com título de Master of Liberal Arts (ALM) in Extension Studies, field of Management (Mestre em Artes Liberais com foco em Administração) em Harvard uma das Universidades mais prestigiadas do mundo, desde pequeno sabia que seu esforço abriria portas para seu futuro. Criado no bairro dos Pimentas, zona periférica da cidade de Guarulhos, na grande São Paulo, seus passos ajudaram a tornar o profissional de sucesso que é hoje.