'Risco para a humanidade'; Musk e grupo pedem pausa em ChatGPT e rivais

Dezenas de executivos do setor de tecnologia, entre os quais o dono do Twitter Elon Musk, solicitaram aos laboratórios de inteligência artificial (IA) que interrompam imediatamente o treinamento de sistemas mais poderosos do que o recém-lançado GPT-4, da OpenAI. O pedido está em uma carta aberta divulgada pelo Future of Life Institute nesta quarta-feira (29).

No documento, iniciado pela organização sem fins lucrativos sediada em Cambridge, nos Estados Unidos, os signatários afirmam que as ferramentas de IA capazes de rivalizar com a inteligência em nível humano representam riscos para a sociedade e a humanidade. Diante disso, sugerem a paralisação dos trabalhos por pelo menos seis meses.

• Inteligência Artificial deve afetar 300 milhões de empregos

“Os sistemas de IA contemporâneos estão se tornando competitivos em tarefas gerais, e devemos nos perguntar: devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade?”, questiona a carta. Na sequência, a entidade cita outros perigos ao abusar da tecnologia.

O ChatGPT tinha 100 milhões de usuários dois meses após o lançamento.

“Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização?”, continua o documento.

Protocolos de segurança

A pausa no desenvolvimento de novos sistemas de IA generativa sugerida por Musk e os demais executivos deve ser usada para o desenvolvimento e a implementação de protocolos de segurança em relação ao uso da tecnologia. Tais normas precisam ser auditadas e supervisionadas por especialistas independentes, conforme o documento.

Esses protocolos servirão para garantir que os futuros mecanismos de inteligência artificial sejam “seguros além de qualquer dúvida razoável”. Os signatários sugerem ainda que as autoridades governamentais intervenham e instituam uma moratória, caso os laboratórios de IA não paralisem as atividades por vontade própria.

Além do CEO da Tesla e da SpaceX, também assinam a carta aberta o cofundador da Apple, Steve Wozniak, o cofundador do Pinterest, Evan Sharp, o cofundador do Skype, Jaan Tallinn, e o inventor de redes neurais associativas, Jonh J. Hopfield, entre outros executivos e especialistas. O documento e a lista completa de assinaturas estão disponíveis no site do Future of Life Institute.