Conselheira da organização critica uso de sistemas automatizados por governos e defende regulação para evitar injustiças
Sistemas automatizados dificultam acesso à justiça e aumentam discriminação contra grupos vulneráveis, alerta Anistia Internacional. (Foto: Freepik)
Redação O Otimista Brasil
redacao@ootimista.com.br
A inteligência artificial (IA) está sendo usada por governos ao redor do mundo para automatizar decisões sociais e migratórias — e isso pode estar aprofundando desigualdades e violando direitos humanos. O alerta é de Hajira Maryam, conselheira-chefe de IA da Anistia Internacional, em entrevista publicada nesta quinta-feira (26) pelo jornal O Globo.
Segundo Maryam, a Anistia investiga desde 2022 como sistemas algorítmicos têm prejudicado pessoas vulneráveis, rotulando cidadãos como fraudadores ou aplicando critérios discriminatórios. Um dos casos mais emblemáticos, segundo ela, ocorreu na Holanda, onde um sistema automatizado acusou falsamente milhares de pessoas de fraudar benefícios sociais.
A conselheira também citou casos parecidos em Dinamarca, França e Suécia, onde migrantes foram alvo de filtros que excluíam ou penalizavam com base em características étnicas ou sociais. “Essas tecnologias tornam muito difícil recorrer ou obter justiça. É um labirinto burocrático que desumaniza”, disse.
O problema, afirma ela, não está restrito à Europa. No Estado indiano de Telangana, a equipe da Anistia também encontrou sistemas que negavam benefícios com base em padrões automatizados. Para Maryam, trata-se de um fenômeno global, que envolve também reconhecimento facial, armas autônomas e políticas anti-imigração.
“Estamos vendo a IA sendo usada para legitimar abusos e ampliar a vigilância. Isso ameaça as garantias legais mais básicas”, alertou.
Maryam critica ainda o poder crescente de empresas privadas nesse setor, muitas delas contratadas por governos. “Devemos mesmo deixar nas mãos do setor privado a decisão de quem merece receber assistência?”, questiona.
Por fim, a conselheira se mostrou preocupada com o cenário regulatório atual: enquanto cresce a pressão na Europa para flexibilizar o AI Act, nos Estados Unidos há avanço de discursos contra regulação, especialmente com a volta de Donald Trump ao poder.
Apesar dos riscos, Maryam vê um caminho possível: “O que buscamos é mostrar que é viável regular a IA com respeito aos direitos humanos. A tecnologia não é neutra nem infalível, e já está nos causando danos reais.”
Compartilhe