Racismo algorítmico e representatividade negra na TI

Por Erica Rodrigues de Oliveira e Renato Oliveira - Consultores da Diversifica em parceria com Intel Brasil

Já imaginou tentar fazer uma transação bancária e não conseguir pela falta de reconhecimento do seu rosto pelo aplicativo? Pois é, o caso ocorreu com um homem negro, que após inúmeras tentativas, apontou o celular para a imagem do ator branco Chris Hemsworth, buscada na internet, e foi instantaneamente reconhecida. A diferença entre ambos? A pele.

Joy, pesquisadora negra do MIT (Massachussets Institute of Technology) também foi alvo do racismo algorítmico em um software de reconhecimento facial que era incapaz de captar a imagem do seu rosto. Para sua surpresa, ao utilizar uma máscara branca foi prontamente reconhecida pelo sistema. A invisibilização da pesquisadora se deu por não haver codificação em consonância à diversidade de estrutura facial e tons de pele negros.

Para formar mais profissionais, é fundamental ensinar e formar jovens que entendam problemas relevantes e inovadores da IA e que possam contribuir para o desenvolvimento de soluções nacionais.O Brasil é um grande consumidor de tecnologia, mas precisamos também produzir.

Para além, carecemos da incorporação de valores éticos no design tecnológico para que marginalizações sociais não sejam potencializadas pelos meios digitais. Em busca desse cenários, empresas de tecnologia podem fomentar a formação de profissionais diversos por meio de parcerias com escolas públicas, por exemplo. Dessas escolas podem sair pessoas interessadas em seguir carreira na área.

Nós falamos da necessidade de ter empresas mais diversas pelo respeito às pessoas, pelo avanço da sociedade e também pelos resultados das organizações. Há várias pesquisas que mostram que equipes diversas geram mais lucro, são mais inovadoras e trazem soluções mais criativas.

Não ter diversidade pesa no bolso, porque perde-se em criatividade, inovação e desenvolvimento de sistemas que não consideram uma grande parcela da população. Além disso, uma empresa diversa e inclusiva é superior em todos os indicadores de negócio. Quem se importa, lucra!

Guimarães Rosa já dizia: “o que a vida quer da gente é coragem!” Então, sigamos nos incomodando, resistindo e ocupando. Inquietados pela falta da diversidade e movidos pela coragem de fazer diferença nos espaços onde alcançamos.

***
Erica de Oliveira é educadora no Centro Universitário UNA com formação em computação (graduação pela PUC Minas e mestrado pela UFMG). Também é coordenadora do time de UX e Requisitos da Enacom. Desde 2015 vem desenvolvendo ações para aumentar a participação feminina na computação, por acreditar que a computação é mais que programação, é criatividade, é para pessoas que querem contribuir com um mundo melhor, por meio da tecnologia. Fundadora do grupo TecnoGirls, da UNA, que visa fortalecer as estudantes dos cursos de tecnologia.

Renato Oliveira Júnior é advogado, Especialista em Direito Digital. Mestrando em Ciência, Tecnologia e Trabalho, investiga o Racismo Algorítimico em sua dissertação. Consultor de Proteção de Dados Pessoais, Pesquisador no Privacy Lab pelo Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP), Liderança do Grupo de Estudos em Diversidade e Inclusão nos Ambientes Jurídicos e Empresariais pela PUC-MG.