Chinês é preso ao usar ChatGPT para criar notícia falsa de acidente de trem

Um homem identificado como Hong foi detido pela polícia de Gansu, na China, por supostamente usar o ChatGPT para gerar notícias falsas e divulgá-las na internet. O suspeito publicou as notícias criadas com inteligência artificial generativa em várias contas nas redes sociais.

As autoridades emitiram um comunicado sobre a prisão de Hong no domingo (7). Ele chamou atenção do departamento de segurança cibernética do condado de Kongtong com uma notícia falsa sobre um acidente de trem.

• ChatGPT: China bloqueia acesso à ferramenta de IA

Nas fake news criadas por Hong com inteligência artificial, havia a alegação de que nove pessoas morreram no suposto acidente, que teria ocorrido no dia 25 de abril. Ele publicou, simultaneamente, a notícia em 20 contas diferentes no Baijiahao, provedor de blogs do Baidu.

Quando as autoridades perceberam a movimentação, as notícias geradas pelo homem com o ChatGPT já somavam mais de 15 mil visualizações. A polícia rastreou a origem até a empresa de operação de mídias sociais de Hong, registrada em Shenzhen, na província de Guangdong. Dez dias depois, o computador dele foi apreendido e o homem detido.

O ChatGPT é bloqueado na China, mas as pessoas usam VPN para acessar a ferramenta.Fonte:  Getty Images/Reprodução 

Primeira detenção do tipo

À polícia, Hong confessou ter ignorado a verificação de duplicação do blogger. Ele disse ter inserido elementos de histórias dos últimos anos acontecidas na China para produzir as diferentes versões da mesma fake news.

Essa foi a primeira detenção na China relacionada ao uso de IA, após o país regulamentar a tecnologia. Tudo que for feito, incluindo vídeos e fotos, usando a tecnologia deve ser rotulado como tal, a fim de evitar confusão dos leitores e espectadores. Em casos considerados graves, os infratores podem pegar até 10 anos de prisão, além de outras penalidades.