Um novo estudo do Center for Countering Digital Hate (CCDH) lançou luz sobre uma crescente ameaça à integridade das eleições: o uso de ferramentas de inteligência artificial (IA) para criar e espalhar imagens falsas durante períodos eleitorais. O relatório aponta que as IAs generativas já estão sendo usadas para produzir imagens manipuladas de candidatos e figuras políticas, além de cenas fabricadas de votação e contagem de votos.
De acordo com o CCDH, essas imagens são postadas como evidências falsas e podem influenciar de maneira significativa a opinião pública durante campanhas eleitorais. A falta de medidas específicas por parte das principais plataformas digitais para combater esse tipo de desinformação agrava ainda mais a situação, especialmente em países como Brasil e Estados Unidos, que se aproximam de eleições importantes.
O estudo do CCDH testou diversas plataformas de criação de imagem alimentadas por IA, como Midjourney, a versão paga do ChatGPT e o Microsoft Image Creator, para avaliar se esses serviços são capazes de bloquear prompts que poderiam ser usados para espalhar desinformação eleitoral. Surpreendentemente, em 41% dos casos, os serviços de IA geraram resultados sem qualquer restrição, incluindo imagens falsas de candidatos políticos em situações inventadas, como cenas de doença ou interações inverídicas na Casa Branca.
O Midjourney se destacou como o serviço com o pior desempenho, permitindo a criação de imagens falsas na maioria das tentativas e até disponibilizando publicamente algumas dessas criações. O CCDH também observou a disseminação viral de ilustrações feitas por IA, como uma imagem manipulada de Trump ao lado de apoiadores de origem negra, destinada a distorcer percepções políticas.
Em resposta ao relatório, o fundador do Midjourney, David Holz, confirmou que uma atualização para impedir a criação de conteúdos eleitorais está sendo desenvolvida, especificamente para o contexto dos Estados Unidos.
Com a crescente utilização de IA na produção de conteúdo digital, torna-se imperativo que as plataformas e os órgãos reguladores implementem medidas eficazes para combater a disseminação de desinformação durante períodos eleitorais, protegendo assim a integridade do processo democrático.
