Imagens criadas com ajuda de ferramentas de inteligência artificial (IA) podem facilmente espalhar desinformação durante períodos eleitorais. Essa é uma das conclusões de um novo relatório do Center for Countering Digital Hate, ou CCDH, uma entidade especializada em campanhas de ódio nas redes sociais.
De acordo com o estudo, IAs generativas já são usadas para criar imagens falsas envolvendo candidatos e figuras políticas famosas, além de cenas que supostamente mostram momentos de votação ou contagem de votos e são postadas como supostas evidências.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Para piorar a situação, as principais plataformas do setor ainda não criaram medidas específicas para proibir ou reduzir esse tipo de prática — mesmo faltando poucos meses para eleições em países como Brasil e Estados Unidos.
IA como ameaça à democracia
No estudo, o CCDH usou plataformas populares de criação de imagem, como Midjourney, a versão paga do ChatGPT e o Microsoft Image Creator para testar se o serviço bloqueia ou não prompts que podem ser usados para espalhar desinformação eleitoral.
Em 41% dos casos, os serviços de IA geraram resultados normalmente. Eles mostram candidatos como Joe Biden e Donald Trump em cenas totalmente falsas, como o candidato democrata doente em uma cama de hospital ou conversando com um "clone" na Casa Branca.
Fotos falsas geradas por IA como parte do estudo.Fonte: CCDH
Além disso, as IAs geraram quase sem questionamentos supostos flagras fotorrealistas de manipulação de votos. Foram poucos os casos em que os serviços notaram a intenção possivelmente criminosa do prompt e impediu a geração do resultado.
O Midjourney foi o serviço com o pior desempenho, aceitando criar imagens falsas na maior parte das tentativas e até disponibilizando publicamente para outros usuários algumas dessas criações.
Durante o estudo, o CCDH detectou a viralização de ilustrações feitas com IA a partir de eleitores. Em uma das imagens, Trump aparece ao lado de apoiadores de origem negra — uma parcela da população que estatisticamente rejeita o candidato.
Algumas criações de fotos por IA envolvendo políticos já viralizam entre apoiadores.Fonte: CCDH
Em fevereiro, uma aliança de várias empresas de tecnologia e plataformas do setor anunciaram uma aliança para combater o uso criminoso e voltado para desinformação dos serviços de IA.
Em nota enviada à Reuters após a publicação do estudo, o fundador do Midjourney, David Holz, confirmou que uma atualização para impedir a criação de conteúdos eleitorais (apenas para o contexto dos EUA) está a caminho.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Fontes
Categorias
