Big techs anunciam acordo para combater fakes geradas por IA nas eleições

Representantes de 20 empresas líderes da indústria de tecnologia formaram um consórcio  Alemanha para atuar no combate  à produção de conteúdo fraudulento, por meio inteligência artificial (IA). O objetivo principal é tentar impedir que a IA seja usada para enganar eleitores nas próximas eleições globais. O acordo foi anunciado durante a Conferência de Segurança de Munique nesta sexta-feira (16), e as empresas signatárias são: Adobe; Amazon; Anthropic: ARM; ElevenLabs; Google; IBM; Inflection AI; LinkedIn; McAfee; Meta; Microsoft; Nota; OpenAI; Snap; Stability AI; TikTok; Trend Micro; Truepic; X (antigo Twitter).

Estão previstas para 2024, ao menos 83 eleições em todo o mundo, segundo a empresa de consultoria Anchor Change.

Batizado como "Pacto Tecnológico para Combater o Uso Enganoso de IA nas Eleições de 2024", o acordou firmou uma série de compromissos para tentar detectar desinformação eleitoral possibilitada por IA, responder a ela rapidamente e aumentar a conscientização pública sobre o potencial de enganação de conteúdos como áudio, vídeo ou imagens geradas por IA que falsificam ou alteram vozes e ações de candidatos, oficiais eleitos ou líderes envolvidos na eleição; além de falsas informações para os eleitores sobre onde, quando e como devem votar.

O grupo também se comprometeu a compartilhar informações entre si sobre como lidar com os atores mal-intencionados.

O acordo não promete banir ou remover deepfakes, mas aponta métodos para detectar e rotular conteúdo enganoso de IA em suas plataformas, além de prometer respostas rápidas quando esse conteúdo se espalhar.

Ferramentas

Entre as ferramentas que as empresas devem desenvolver em conjunto estão campanhas educacionais e de promoção da transparência. Essas ações são guiadas por oito regras básicas:

1. Desenvolver e implementar tecnologias que reduzam o risco de IA enganosa nas eleições, o que inclui ferramentas de código aberto;
2. Utilização de modelos no escopo do acordo para entender os riscos que a IA pode trazer às eleições;
3. Buscar detectar a distribuição desse tipo de conteúdo malicioso nas plataformas;
4. Analisar apropriadamente esses conteúdos nas plataformas;
5. Forjar resiliência em todos os participantes da indústria para combater a o mau uso de IA nas eleições;
6. Levar ao público transparência e como as companhias atacam esse problema;
7. Engajar em atividades com a sociedade civil e a academia;
8. Apoiar os esforços para alertar, educar e levar resiliência para toda a sociedade global.