Em um estudo publicado na revista científica Public Library of Science One (PLOS ONE), pesquisadores afirmam que filmes 'refilmados' com inteligência artificial (IA) estão confundindo as pessoas e criando memórias falsas. Em alguns desses casos, as pessoas até consideraram as versões de IA melhores que os filmes originais.
A pesquisa utilizou sistemas de IA para criar deepfakes de imagens, áudios e vídeos. Apesar disso, os pesquisadores não criaram conteúdos completos, eles utilizaram a tecnologia de deepfake para trocar o rosto ou a voz de uma pessoa pela de outra.
Segundo os cientistas, a essência do estudo é mostrar que a tecnologia atual já é capaz de distorcer a memória do ser humano. Certamente, uma melhor tecnologia pode melhorar este fenômeno, contudo, eles acreditam ser possível fazer isso de forma muito mais eficaz utilizando “meios não técnicos”.
A equipe acredita que os resultados do estudo podem ajudar em uma futura regulamentação da tecnologia de deepfake em filmes.Fonte: Getty Images
“Embora os deepfakes sejam uma grande preocupação por muitas razões, como pornografia não consensual e bullying, o estudo atual sugere que eles não são os únicos poderosos em distorcer nossas memórias do passado. Embora os deepfakes tenham levado as pessoas a formar falsas memórias em taxas bastante altas, conseguimos os mesmos efeitos usando texto simples”, os pesquisadores descrevem no estudo.
Inteligência artificial e memórias falsas
Uma equipe de pesquisadores da University College Cork e do Centro de Pesquisa de Software da Science Foundation Ireland, na Irlanda, recrutou 436 participantes com média de 25 anos; 35% deles concluíram a graduação ou pós-graduação. Os participantes precisaram assistir e descrever suas opiniões sobre os filmes reais e versões em deepfake.
O estudo aponta que os cientistas observaram uma taxa média de falsa memória de 49% nos relatórios. Em alguns casos, os participantes lembraram do remake falso como se fosse melhor do que o filme original.
“Em essência, este estudo mostra que não precisamos de avanços técnicos para distorcer a memória, podemos fazê-lo de maneira muito fácil e eficaz usando meios não técnicos”, os pesquisadores concluem.
Atualmente, as tecnologias de deepfake são consideradas um perigo para a humanidade, pois os especialistas tem medo de que elas sejam utilizadas para motivos políticos. Atualmente, o deepfake já é utilizado para criar conteúdos pornográficos com rostos de artistas famosos e vídeos de entretenimento para o YouTube.
Não é à toa que os roteiristas estão em greve nos Estados Unidos e, inclusive, os atores também estão cogitando participar do movimento. Eles lutam para a criação de uma melhor regulamentação de ferramentas de inteligência artificial, a fim de criar um ambiente mais seguro para todos os artistas da indústria.
Gostou do conteúdo? Então, fique por dentro nas últimas novidades sobre a inteligência artificial aqui no TecMundo e aproveite ler, Deepfake: a prática cada vez mais comum e perigosa de manipular imagens.
Fontes
Categorias
