Estudo mostra que IAs não se recuperam totalmente quando expostas a conteúdos causadores de "brain rot"
Universidade do Texas em Austin, da Texas A&M University e da Universidade Purdue (Foto: Imagem: SomYuZu | Shutterstock)
Redação O Otimista
redacao@ootimista.com.br
O temo "Brain rot", ou apodrecimento cerebral, em tradução livre deixou de afetar apenas os humanos consumidores de vídeos curtos de baixa qualidade nas redes sociais. Estudo realizado por pesquisadores da Universidade do Texas em Austin, da Texas A&M University e da Universidade Purdue, constataram que o problema chegou às inteligências artificiais. O brain rot ocorre com o consumo de conteúdo de baixa qualidade e feito para engajar nas plataformas de redes sociais, como vídeos curtos, por exemplo.
O resultado disso seriam conteúdos gerados por IA mais rasos e pouco confiáveis. Segundo o estudo, as IAs também são treinadas com vídeos curtos, de qualidade duvidosa e que não geram despertar de senso crítico. Experimentos mostraram que quando expostas a conteúdos de baixa qualidade, as IAs, apresentaram falhas de raciocínio, erros factuais e ausência de coerência nas respostas.
“A principal conclusão é que os modelos de linguagem refletem a qualidade de seus dados de forma mais íntima do que imaginávamos”, afirmaram os coautores do estudo em entrevista à Forbes. “Quando expostos a textos de baixa qualidade, os modelos não apenas soam piores, eles começam a pensar pior", prosseguem.
Para comprovar a hipótese, os estudiosos expuseram modelos de IA a conteúdos de baixa qualidade, incluindo postagens no X produzidas para chamar a atenção; threads caça-cliques, comentários retirados de memes; além de posts (inlcuindo vídeos) criados para gerar indignação. Segundo os pesquisadores, o conteúdo “parece limpo e fluente, de modo que os classificadores tradicionais de qualidade de dados consideram aceitável, mas ele degrada silenciosamente o raciocínio porque ensina os modelos a imitar a atenção, não a compreensão”, argumentam.
Os experimentos foram realizados Llama3, de propriedade da Meta e que possui código aberto e o Qwen LLM, da Alibaba, que foram alimentados com os conteúdos causadores de "brain rot". O que se observou foi uma queda relevante do poder conitivo das IAs. Os pesquisadores afirmaram que mesmo após processo de reabilitação aplicado às IAs, elas não se recuperaram totalmente.
Compartilhe