Figura pública poderá revisar vídeos detectados com seu rosto e pedir remoção em casos de conteúdo gerado por IA
YouTube afirma que solicitações serão analisadas segundo suas diretrizes (Foto: AFP)
Parte dos políticos e jornalistas do Brasil passará a ter acesso a uma ferramenta do YouTube que rastreia, com base na aparência da pessoa, conteúdos publicados na plataforma em que seu rosto apareça e tenham sido potencialmente alterados ou criados com inteligência artificial.
Apesar de o intuito ser o combate a conteúdos como deepfakes, que estão cada vez mais realistas, o próprio texto do YouTube sobre a ferramenta afirma que, por estar em fase de testes, o recurso pode detectar também vídeos que mostram os rostos reais dessas pessoas.
A partir dessa varredura inicial feita pela plataforma, a figura pública poderá revisar os conteúdos listados e solicitar a remoção daqueles gerados ou alterados por IA. De acordo com a empresa, a retirada não será automática e dependerá de análise e critérios definidos em suas diretrizes de privacidade.
Segundo comunicado do YouTube, o acesso será dado a um "grupo piloto de autoridades governamentais, jornalistas e candidatos políticos". Não será publicizada, porém, a lista de pessoas que poderão se cadastrar para usar a ferramenta. Conforme a empresa, por questões de privacidade.
No Brasil, a ferramenta deve ser apresentada ao Tribunal Superior Eleitoral (TSE) como parte dos esforços do YouTube relacionados às eleições. Ela está disponível desde esta terça-feira (10), a políticos que forem contactados pela plataforma no país. Esse grupo deve ser expandido progressivamente, mas não há mais detalhes a respeito.
Aqueles que aceitarem se inscrever precisarão enviar um documento de identidade oficial, assim como gravar um vídeo curto do seu rosto, como uma selfie. É preciso ter um canal registrado na YouTube —ainda que sem uso— para viabilizar o uso da ferramenta. Em entrevista coletiva, representantes da empresa foram questionados, por exemplo, se o presidente dos Estados Unidos, Donald Trump, teria acesso ao recurso —o que não foi informado.
Tampouco foi divulgado em quais outros países políticos e jornalistas passariam a ter acesso à ferramenta nessa primeira rodada de expansão. Na semana passada, o TSE aprovou novas regras sobre propaganda eleitoral e conteúdo político nas redes. Entre outros itens, manteve a proibição de deepfake tanto para prejudicar quanto para favorecer candidaturas e proibiu a publicação desde 72 horas antes da eleição de conteúdos com IA.
A resolução sobre o tema prevê também a responsabilização solidária das redes sociais caso elas não removam conteúdos considerados "de risco", sendo um deles o de divulgação de conteúdo gerado ou alterado por IA que esteja em desacordo com as vedações eleitorais.
Por ora, a ferramenta do YouTube inclui apenas imagem, não áudio. Ela funcionará de modo semelhante à Content ID, conhecida por rastrear conteúdo protegido por direitos autorais na plataforma, mas buscando imagens que pareçam ser do rosto da pessoa que se registrou.
"É uma maneira de a gente ter mais pessoas controlando, de alguma forma, a sua imagem, tendo mais gerência, mais autonomia para fazer essa fiscalização", diz Alana Rizzo, líder de políticas públicas do YouTube Brasil. "Essa ferramenta faz essa busca e detecção em grande escala e depois comunica o detentor daquele canal, daquela imagem."
Apenas casos que se enquadrem como violação às diretrizes de privacidade poderão ser denunciados por esse mecanismo, não incluindo outras práticas, como desinformação.
Segundo as regras, entre os fatores considerados pelo YouTube para avaliar o pedido de remoção, está se o conteúdo é sintético ou alterado, se é realista, ou se o material mostra uma figura pública ou pessoa conhecida praticando "atividades sensíveis, como crimes, atos de violência e endossos a produtos ou candidatos políticos". Além disso, se apresenta paródia, sátira ou outro aspecto de interesse público.
"Se um vídeo de um líder mundial é claramente uma paródia, é provável que permaneça no ar", afirmou Leslie Miller, vice-presidente de assuntos governamentais e políticas públicas.
A reportagem questionou em que medida o YouTube consegue, a partir de sua análise, afirmar que um conteúdo é de fato sintético ou alterado por IA, de modo a evitar que vídeos reais sejam removidos sob essa alegação. Alana Rizzo afirmou que cada vídeo é estudado caso a caso. Acrescentou ainda que a empresa aprimora suas tecnologias e políticas de análise de conteúdo constantemente. (Folhapress)
Compartilhe