Microsoft criou algoritmo que 'prevê' gravidez de adolescentes

Uma reportagem da Wired revelou que uma província da Argentina utilizou um algoritmo criado pela Microsoft para prever quais jovens tinham mais chances de ficarem grávidas ainda na adolescência — tudo de acordo com possíveis indicadores sociais e envolvendo até monitoramento presencial.

O caso aconteceu a partir de 2018 na região de Salta, no noroeste do país, e envolveu a chamada Plataforma Tecnológica de Intervención Social.

O algoritmo chegou a ser anunciado em rede nacional, mas o governo não divulgou detalhes sobre como ele operava o que acontecia com as pessoas identificadas como mães em potencial.

Sempre de olho

Agora, detalhes sobre o sistema começaram a aparecer. Segundo a reportagem, o sistema era baseado em dados dos 200 mil residentes de Salta e envolvia diferentes variáveis — como renda da família, estrutura da casa e local de residência, por exemplo.

Além disso, o governo utilizava agentes presenciais para acompanharem de perto as jovens identificadas pelo algoritmo como mais prováveis para engravidar, enviando funcionários para realizar entrevistas, tirar fotos e gravar a localização via GPS. A maior parte das jovens consultadas eram imigrantes de países vizinhos ou de etnias indígenas locais.

Qual o problema?

O principal problema da utilização da plataforma em Salta, segundo especialistas consultados pela Wired, é a falta de transparência do algoritmo: simplesmente não há detalhes sobre o seu código. Além disso, foi detectada a ausência de avaliações externas sobre o uso dessa tecnologia e não há publicação dos dados coletados ou de informações adicionais, como ações afirmativas realizadas nas regiões monitoradas.

Além disso, o próprio algoritmo não levava em conta fatores como educação sexual e métodos contraceptivos — que são considerados essenciais no combate à gravidez na adolescência, mas muitas vezes negligenciados. Ainda assim, segundo uma universidade local, o modelo realizou previsões corretas em 98% das vezes.

Jornalistas e ativistas na Argentina também protestaram contra o algoritmo pelo contexto da região: o governo local tem um longo histórico de vigilância populacional e embates sobre direitos das mulheres. O aborto foi legalizado no país no final de 2020. Segundo a Microsoft, a plataforma é "um caso pioneiro de utilização de Inteligência Artificial" em programas sociais.