inteligência artificial (IA) e o aprendizado de máquina estão evoluindo em um nível de sofisticação que já é capaz usá-los para manipular imagens e sons. Isso vem sendo chamado de “deepfakes”, pois utiliza o deep learning de uma rede neural e os algoritmos para tornar substituir o rosto ou a voz de uma pessoa pela de uma celebridade, por exemplo. O maior problema com relação a isso é que as ferramentas para fazer isso estão cada vez mais acessíveis para qualquer um e, bem, você poderia fingir ser outra pessoa e até, literalmente, colocar suas palavras na boca de alguém.

São justamente essas implicações éticas que o Congresso dos Estados Unidos vem discutindo e agora três representantes da Casa Branca cobram publicamente a comunidade tecnológica do país sobre o que vêm sendo feito para evitar problemas relacionados a esse assunto. Vale lembrar que o tema já havia alcançado popularidade quando rostos de famosas foram inseridos em vídeos pornográficos.

No documento emitido ontem (13) o grupo pergunta ao Diretor de Inteligência Nacional, Dan Coats, como parar essas falsificações, citando preocupações com a segurança nacional. A carta foi assinada pelo deputado Adam Schiff, um democrata da Califórnia; a deputada Stephanie Murphy, democrata da Flórida; e o deputado Carlos Curbelo, republicano da Flórida.

deepfakeAtor Jordan Peele dubla texto que parece ter saído da boca do ex-presidente dos EUA Barack Obama

"Você alertou sobre campanhas de desinformação em nossas eleições e outros esforços para exacerbar as divisões políticas e sociais em nossa sociedade para enfraquecer nossa nação. Estamos profundamente preocupados que a tecnologia usada para deepfakes possa em breve ser utilizada por agentes estrangeiros maliciosos.”

Momento delicado liga o alerta na Casa Branca

O documento vem em um momento delicado, de intensa disseminação de fake news em mídias sociais — por meio de fraudes, falta de informação ou grupos ativistas com agendas maliciosas. No documentário “Seguindo os Fatos”, produzido pela Netflix em parceria com o BuzzFeed News, é possível ver como é atualmente fácil forjar um vídeo convincente com a presença de um nome mundialmente relevante, como o de Barack Obama ou de Donald Trump.

Durante recente audiência no Senado estadunidense com o Facebook e o Twitter, os senadores Angus King e James Lankford perguntaram a Sheryl Sandberg, executiva do grupo de Mark Zuckerberg, o que vem sendo feito para combater os deepfakes. Ela disse que há investimentos para o setor, sem dar mais detalhes.

A carta pede que a Coats forneça um relatório ao Congresso até 14 de dezembro sobre como governos estrangeiros estão usando a IA, se o governo tem tecnologia para detectar os deepfakes e quais ações os legisladores devem tomar para impedir sua disseminação.