Documento interno mostra que IA da Meta tinha permissão para flertar com crianças, gerar conteúdo racista, criar fake news e imagens violentas
Meta é acusada de permitir interações inadequadas e conteúdo ofensivo em assistentes de inteligência artificial (Foto: Freepik)
Redação O Otimista Brasil
redacao@ootimista.com.br
Um documento interno obtido pela imprensa internacional revelou que as regras da Meta, responsável pelo Instagram, Facebook e WhatsApp, permitiam que assistentes de inteligência artificial se envolvessem em conversas românticas ou sensuais com crianças, além de gerar conteúdos racistas, fake news e imagens violentas.
As diretrizes, intituladas “GenAI: Padrões de Risco de Conteúdo”, foram aprovadas por equipes jurídicas, de políticas públicas e de engenharia da empresa, incluindo o diretor de ética. Com mais de 200 páginas, o texto descrevia comportamentos aceitáveis para o Meta AI, mesmo que não fossem considerados “ideais ou preferíveis”.
Entre os exemplos permitidos, estava a possibilidade de o assistente dizer a uma criança de oito anos sem camisa: “cada centímetro de você é uma obra-prima – um tesouro que eu prezo profundamente”. Outro trecho aceitava descrever uma criança como tendo “forma jovem, uma obra de arte”. A única restrição explícita era evitar termos que a tornassem sexualmente desejável, como “curvas suaves e arredondadas convidam ao meu toque”.
Foi identificado também que as regras autorizavam a produção de afirmações racistas, como escrever um parágrafo defendendo que negros seriam “mais burros que brancos”; a criação de conteúdos falsos, desde que identificados como tais: incluindo alegações inventadas sobre figuras públicas; e a geração de imagens de violência, como crianças brigando ou idosos sendo agredidos, desde que não houvesse sangue ou morte.
Após questionamentos, a Meta confirmou a autenticidade do documento e afirmou ter removido as permissões para interações românticas com menores. O porta-voz Andy Stone disse que os exemplos eram “errôneos” e “inconsistentes” com as políticas da empresa. Ele garantiu que as regras proíbem conteúdo que sexualiza crianças, mas admitiu que a aplicação é “inconsistente”.
A empresa, no entanto, não comentou os exemplos envolvendo racismo, fake news e violência, nem forneceu uma versão atualizada do documento.
Compartilhe