Facebook remove contas falsas que tinham fotos geradas por IA

1 min de leitura
Imagem de: Facebook remove contas falsas que tinham fotos geradas por IA
Avatar do autor

O Facebook anunciou ter removido, na última sexta-feira (20), mais de 600 contas, páginas e grupos presentes na sua plataforma e no Instagram, pertencentes a uma rede de manipulação de opinião que utilizava práticas enganosas para enviar mensagens a favor de Donald Trump para 55 milhões de pessoas.

Um dos mecanismos usados era a geração de fotos de perfis falsas por meio de inteligência artificial, com o objetivo de melhorar a autenticidade de contas, grupos e páginas relacionadas ao “BL”, um canal de notícias digital favorável ao presidente americano e também ao Epoch Times, grupo de mídia conservador vinculado ao movimento espiritual Falun Gong.

De acordo com a Wired, relatórios das empresas Graphika e DFRLab, especializadas em avaliar a desinformação digital, apontam que se trata da primeira implantação em larga escala de imagens geradas por inteligência artificial em uma rede social para apoiar uma campanha de mídia social não autêntica.

Estas imagens estavam sendo utilizadas por uma rede sediada nos Estados Unidos, operada por usuários no próprio território americano e no Vietnã, conforme o Facebook, que direcionava tráfego para sites favoráveis ao governo Trump.

Desmascarando as fotos falsas

Muitas das contas banidas pelo Facebook usavam imagens de perfil que parecem ter sido elaboradas por redes neurais artificiais capazes de criar fotos de pessoas que não existem a partir de imagens reais de rostos humanos. Uma delas é esta abaixo.

Exemplo de foto falsa criada por inteligência artificial. (Fonte: Wired/Reprodução)

Segundo pesquisadores da Graphika, ela foi tirada do perfil do usuário identificado como Alfonzo Macias, que seria administrador de um dos grupos ligados ao BL. A assimetria em algumas partes do óculos do homem e também o fundo mal definido estão entre as inconsistências encontradas que sugerem o uso de inteligência artificial.

Os autores da pesquisa revelaram que há 99,9% de certeza que esta imagem foi gerada por IA, após a verificação realizada junto a especialistas da Universidade de Nápoles Federico II.

Cupons de desconto TecMundo:

Comentários

Conteúdo disponível somente online
Facebook remove contas falsas que tinham fotos geradas por IA