Iniciativa tem limites. Os pedidos só valem para conteúdo feito pela IA ElevenLabs, especialista em áudio e vídeo, deixando de fora outras IAs generativas como Gemini
Acordo foi idealizado pelo presidente do TSE, ministro Nunes Marques (Foto: Alejandro Zambrana/Secom/TSE)
Candidatos às eleições de outubro poderão pedir que suas vozes sejam banidas para criação de áudios com inteligência artificial. A restrição foi fixada por meio de um acordo assinado entre o presidente do Tribunal Superior Eleitoral (TSE), Kassio Nunes Marques, e a empresa de inteligência artificial ElevenLabs. O documento, chamado de memorando de entendimentos, foi assinado na última segunda-feira (3) e tem validade até 31 de dezembro deste ano. O texto detalha as obrigações técnicas, fixa o compromisso com a proteção de dados e a vigência da cooperação.
Ele também estabelece que a ElevenLabs auxilie na investigação de conteúdos fraudulentos. A plataforma é especializada em áudio e síntese de fala. Este é o primeiro acordo com uma plataforma originalmente de IA firmado pelo TSE. A corte tem ainda termos assinados com a Meta ou o Gemini, por exemplo.
À frente das primeiras eleições presidenciais com uso massivo de inteligência artificial, Kassio vinha afirmando a interlocutores que priorizaria ações educativas, reduzindo as punições e a remoção de conteúdo. Ele já propôs a criação de uma comissão de IA para elaborar soluções. De acordo com o texto, a empresa vai manter uma lista de vozes protegidas (No-go Voices) para restringir a reprodução sintética das vozes de figuras públicas, incluindo candidatos e servidores eleitorais considerados relevantes.
Por meio do compromisso, a empresa se compromete a bloquear a criação de conteúdos que usem vozes de candidatos e servidores eleitorais relevantes mediante uma solicitação escrita e fundamentada do TSE. No entanto, o memorando ressalta que essa proteção tem limites técnicos. Os compromissos de investigação e de remoção de conteúdo limitam-se ao material gerado em sua própria plataforma, não abrangendo áudios ou vídeos criados por ferramentas de IA de terceiros.
O acordo faz parte do Programa Permanente de Enfrentamento à Desinformação da Justiça Eleitoral, criado para combater os efeitos negativos do uso malicioso de tecnologias digitais. Além da restrição preventiva, a ElevenLabs atuará na investigação de conteúdos suspeitos. Caso haja indícios de que um áudio fraudulento tenha sido gerado em sua plataforma, a empresa deverá colaborar com o TSE para verificar a origem e adotar as medidas cabíveis, conforme seus termos de serviço e a legislação brasileira.
A expectativa é a de que a ElevenLabs forneça, ainda, tecnologias de inteligência artificial de áudio sem custos para tornar os serviços digitais da Justiça Eleitoral mais acessíveis a cidadãos com deficiências ou baixa alfabetização digital. A parceria prevê uma modernização dos serviços ao cidadão. O TSE terá acesso gratuito às APIs de conversão de texto em fala (TTS) e fala em texto (STT) da empresa. O objetivo inicial é integrar esses recursos de áudio ao Assistente Eleitoral, permitindo que eleitores interajam com o serviço por meio da voz.
Segundo o documento, a iniciativa pretende reduzir barreiras para cidadãos com deficiência visual ou baixo letramento digital, além de facilitar o alcance de populações em regiões remotas do país.
(Folhapress)
Compartilhe