OpenAI se preocupa com 'Super IA' capaz de extinguir a humanidade

A OpenAI está criando uma equipe para garantir que a versão avançada do ChatGPT não supere a inteligência humana. Preocupada com os riscos potenciais que uma inteligência artificial (IA) ainda mais inteligente pode trazer para a humanidade, a desenvolvedora revelou detalhes sobre o trabalho na última quarta-feira (5).

Conforme a startup americana, a IA superinteligente é apenas uma ideia, no momento, mas não deve demorar para que este sistema, capaz de superar o raciocínio humano, esteja disponível. A empresa acredita que o mecanismo seja lançado em no máximo uma década.

• Leia mais: O ChatGPT vai acabar com a profissão de advogados? Isso não depende (só) da tecnologia

Os riscos da IA para o futuro da humanidade voltaram a ser alertados pela OpenAI.Fonte:  GettyImages 

“Atualmente, não temos uma solução para direcionar ou controlar uma IA potencialmente superinteligente e impedir que ela se torne desonesta”, afirma a companhia no comunicado assinado pelo seu cofundador, Ilya Sutskever, e o chefe da nova equipe, Jan Leike. O objetivo é ter um mecanismo de controle antes que o sistema estreie.

• Veja também: OpenAI, criadora do ChatGPT, planeja lançar loja de apps

No texto, os dois especialistas citam que a Super IA tem potencial para se tornar a tecnologia de maior impacto já inventada, auxiliando na resolução de muitos dos principais problemas da atualidade. Mas, ao mesmo tempo, ela traz riscos e pode “levar ao enfraquecimento da humanidade ou até mesmo à extinção humana”.

Mitigando riscos

A equipe de "superalinhamento", como o grupo é chamado, terá a missão de desenvolver novos avanços técnicos e científicos para controlar a IA superinteligente. Segundo a OpenAI, o plano inclui construir um pesquisador de alinhamento automatizado de nível humano nos próximos quatro anos.

Para esta tarefa, a startup reservará 20% do seu poder computacional, contando com o auxílio de pesquisadores de outras áreas. A companhia, inclusive, abriu vagas de emprego para os profissionais interessados em fazer parte do projeto, informando que está à procura das “melhores mentes do mundo”.

• Leia também: Inteligência artificial caminha para regulamentação em todo o mundo

Esta não é a primeira vez que a criadora do ChatGPT alerta sobre os riscos de extinção da humanidade potencializados pela IA. Em maio, o CEO da empresa, Sam Altman, se juntou a outros nomes importantes do mercado, solicitando a regulamentação imediata da tecnologia, cujos perigos foram comparados aos de pandemias e guerras nucleares.