A 'revolução da IA' é diferente das anteriores… E não para melhor

Pesquisa. Redação. Revisão. Tradução. Edição, geração e aprimoramento de imagens, áudios, músicas, vídeos e até mundos virtuais. Otimização de processos. Programação de sites, serviços e aplicativos inteiros. Até coisa de 3 a 6 anos atrás, tudo isso exigiria no mínimo algumas semanas, provavelmente alguns meses ou até anos de dedicação, estudo e prática para que a maioria das pessoas conseguisse ter habilidades decentes nesses campos.

Hoje, até aquele seu parente ou conhecido que mal sabe usar qualquer tipo de tecnologia consegue fazer textos aceitáveis, entregar artes tecnicamente boas e gerar ao menos rascunhos de código funcional e montar páginas sem precisar dominar uma linguagem de programação. Agora é só digitar ou até falar instruções meio que de qualquer jeito em uma de várias opções de caixas de conversa no celular ou computador.

Os problemas e falhas que vêm com os produtos dessas capacidades são quase tão variados e importantes quanto as capacidades em si. Mas a forma e principalmente a velocidade com que esses defeitos vêm sendo superados, ou pelo menos reduzidos, mostram a dimensão da revolução tecnológica que estamos vivendo. Mais ainda quando olhamos para usos mais especializados de sistemas de IA, como a dobra de proteínas, o desenvolvimento de substâncias novas e o aceleramento de descobertas.

E, por drásticas, eu não quero só dizer que provavelmente boa parte da humanidade vai perder o emprego

Muitos estudiosos olham para exemplos passados, como as múltiplas fases da Revolução Industrial, e enxergam paralelos razoáveis o suficiente para indicar que no presente essa “revolução das IAs e dos robôs humanoides” tem basicamente o mesmo impacto na sociedade como um todo. Só que muitos outros pesquisadores, incluindo vários que estão envolvidos diretamente na criação e no desenvolvimento dos modelos mais famosos da atualidade, apontam cada vez mais para diferenças importantes, como o fato de que uma IA geral verdadeira não conseguiria substituir só uma tarefa braçal, mas também raciocinar, aprender e criar, e isso pode levar a consequências drásticas — e por drásticas eu não quero só dizer que provavelmente boa parte da humanidade vai perder o emprego.

Segundo algumas das mentes mais brilhantes da atualidade, as possíveis consequências previstas para a atual “revolução das IAs e da robótica” não só incluem claramente a possibilidade de superinteligências artificiais decidirem pela extinção da espécie humana – esse nem é o pior futuro possível. 

A pior parte é que, enquanto alguns dos bilionários que estão por trás dessas tecnologias, como Elon Musk e Sam Altman, clamam publicamente por regulamentação das empresas do setor, nos bastidores agem para que as próprias companhias sejam cada vez menos reguladas. E alguns pensadores e pesquisadores, como Richard Sutton, que fala sobre o assunto há décadas, argumentam uma visão em que a inteligência digital seria uma continuação inevitável da evolução biológica, e portanto nossa substituição pela “espécie digital” seria algo bom, natural e filosoficamente recomendável.

Nesse ponto, quem não está acompanhando as notícias de tecnologia com muita atenção tende a lembrar de casos recentes em que as IAs mais famosas cometeram gafes óbvias em tarefas básicas, como escrever um texto ou uma planilha. Eu já perdi as contas de quantas vezes ouvi alguém falar em tom sarcástico: “olha aí a IA que vai dominar o mundo”. Só que, por mais que as gafes continuem acontecendo ainda hoje, isso acontece porque atualmente ainda estamos na infância da tecnologia. E mesmo que os modelos amplos de linguagem que chamam mais atenção atualmente, como o ChatGPT e similares, acabem não sendo o caminho que vai diretamente acabar no surgimento de uma superinteligência real, eles já trazem efeitos de escala que representam riscos enormes.

Seja por meio da arquitetura mais dominante hoje ou por uma próxima ideia, os passos de como a inteligência artificial vai não só dominar essas tarefas básicas, mas se aprimorar e evoluir até atingir a chamada “singularidade” já estão sendo traçados e executados. Acompanhar com mais atenção o ritmo do progresso da inteligência artificial nos últimos anos é o que mostra que a situação não é tão tranquila assim — e está cada vez mais perto de fechar a janela que nós temos para fazer o necessário para impedir verdadeiras desgraças no futuro não tão distante.

Revolução industrial

Quando olhamos para as fases da Revolução Industrial no passado, é fácil notar alguns padrões que em um primeiro momento parecem estar se repetindo agora, só que essa sensação vem de uma perspectiva incompleta que se baseia no hoje em considerar diferenças que vão afetar o futuro. Mesmo assim, vale entender de onde vem o sentimento atual para conseguir realmente enxergar o ponto em que a situação fica completamente diferente.

Seja na era das máquinas a vapor lá no século 18, na da eletricidade no século 19 ou na da internet no fim do século 20, muitas profissões foram sim eliminadas, mas muitas outras também foram criadas. Saem de cena os cocheiros, acendedores de lampiões, datilógrafos e mensageiros, surgem os motoristas, eletricistas, engenheiros, web designers e até os criadores de conteúdo online. Era necessário estudar mais para se requalificar para essas novas funções, mas ao menos isso bastava. Mas o que vai acontecer quando as máquinas substituírem também funções que exigem alta capacidade cognitiva de uma forma que a mente humana não consegue mais competir?

Outro ponto em comum é que, a cada nova revolução, a renda tende a se concentrar mais um pouco. Segundo a professora Laura Veldkamp, da Columbia Business School, as fases passadas de transformação tecnológica fizeram com que os trabalhadores tivessem uma queda entre 5% e 15% na sua renda. Com base nas tendências atuais do mercado de trabalho, incluindo as contratações para funções que exigem análise de dados e habilidades com IA, pesquisadores estimam que a história deve se repetir, com queda de 5% na receita dos trabalhadores e aumento da fatia de riqueza que fica nas mãos dos donos das máquinas e dos dados.

Até aí, a previsão não é necessariamente boa, mas nada de tão disruptivo assim, muito menos apocalíptico. Só que o cenário que vivemos na verdade é a etapa de transição inicial, e os impactos reais virão quando toda a estrutura de setores inteiros da sociedade for deslocada de forma permanente — o que é uma possibilidade forte no caminho que seguimos com a IA.

A etapa da transformação

Na etapa da transformação que vivemos hoje, que deve continuar no futuro próximo, a IA em muitos casos realmente funciona como uma ferramenta muito útil. Especialistas como Michael Chui, do McKinsey Global Institute, chegam a afirmar que, ao usar a IA como uma espécie de superpoder, é como se de certa forma nos tornemos “ciborgues” – meio homem, meio máquina. O segredo do sucesso no futuro, segundo ele, seria então aprender a tirar proveito dessas capacidades, o que ignora que esse estágio da tecnologia é temporário.

Mas, em vez de vermos o surgimento imediato de equipes inteiras de superfuncionários, preparados para aproveitar esse potencial de produtividade elevada, o que vimos foram empresas tropeçando sobre si mesmas para tentar usar isso para reduzir custos imediatos eliminando o fator humano da equação dos lucros corporativos. A promessa dos ganhos de eficiência com a aplicação da IA foi tão grande e tentadora que muitas gigantes internacionais dentro e fora do setor de tecnologia demitiram dezenas de milhares de funcionários para substituir por alguns poucos que deveriam usar a tecnologia para fazer o mesmo nível e quantidade de trabalho dos muitos que foram mandados embora. 

O resultado não foi nada favorável, com corporações como a própria McKinsey, além de IBM e outras, serem forçadas a poucos anos depois a recontratar seres humanos, muitas vezes para supervisionar a IA justamente nas funções em que ela teria substituído os humanos demitidos.

O que aconteceu aqui foi um combo de fatores. Primeiro, a inteligência artificial ainda não consegue sempre garantir o mesmo nível de qualidade. No caso dos programadores, por exemplo, as máquinas realmente conseguem gerar código em uma velocidade muito mais acelerada do que a dos seres humanos, mas a taxa de bugs gerados também é consideravelmente maior, o que força os programadores sênior que sobraram a gastar muito mais tempo que antes em tarefas de revisão e correção.

Empresas que substituíram pessoas em setores como o RH, como a IBM, viram a eficiência aumentar em muitas tarefas burocráticas, mas também pegaram as IAs inventando dados em planilhas e falhando miseravelmente em funções que requerem mais empatia do que eficiência. Entre esses casos e outros, muitas companhias que demitiram aos montes agora estão tendo que contratar gente de volta — só que isso não quer dizer que a tecnologia necessariamente falhou e não vai continuar avançando.

Diferentemente das máquinas a vapor ou das linhas de produção mecanizadas, a IA atual ainda está sendo “educada” pelos humanos tanto nas tarefas industriais e de escritório quanto nos afazeres cotidianos, incluindo tarefas domésticas. No entanto, o processo de aprendizado está se acelerando cada vez mais – e é aqui que a coisa fica preocupante: uma vez que as máquinas tenham acesso a dados reais o suficiente e a técnicas de treinamento e aprimoramento um pouco mais avançadas, o ritmo do avanço pode ser exponencial, ficando tão rápido que os seres humanos não conseguiriam acompanhar mais.

E a questão da quantidade limitada de dados disponíveis para treinamento dessas máquinas já está sendo resolvida. Hoje, milhares de trabalhadores de países como a Índia e a Nigéria já são instruídos por seus chefes a trabalhar com smartphones e câmeras presos às próprias testas, gravando em primeira pessoa as próprias mãos enquanto costuram, montam produtos e executam várias outras tarefas em fábricas.

Nos Estados Unidos, empresas da chamada “economia dos bicos”, como a Instawork, pagam valores extras para trabalhadores que se gravarem enquanto executam tarefas que já fariam de qualquer forma, incluindo faxinas, limpeza e organização de louça, dobrar roupas e muitas outras coisas. Algumas startups chegam até a oferecer faxinas grátis para quem permitir que os trabalhadores com câmeras entrem nas suas casas e se filmem enquanto fazem seus serviços.

Formato humanoide

A ideia aqui é que, como a nossa realidade foi toda construída com o corpo humano em mente, o formato humanoide é o mais versátil para conseguir executar a maior variedade possível de tarefas. Por isso vemos nos últimos 2 anos a explosão de empresas lançando e desenvolvendo justamente esse tipo de robô. Só que não importa se estamos falando do Optimus da Tesla, do Neo da X1 ou do humanoide da Unitree, todos eles precisam aprender a navegar no mundo físico e interagir com uma variedade quase infinita de objetos, o que é muito mais difícil sem que a IA tenha um corpo próprio, capaz de interagir com a realidade e suas leis físicas.

Enquanto os modelos de linguagem como o ChatGPT foram treinados basicamente sugando tudo o que já estava escrito na internet e em livros, os robôs precisam dominar a física: como segurar e dobrar uma peça de roupa ou qual o nível de pressão para conseguir pegar um tomate sem ele escorregar, mas sem acabar esmagando? Para começar a ensinar esse tipo de coisa, as empresas precisam de milhões de horas de vídeo mostrando em detalhes como os seres humanos reais fazem esses e outros tipos de coisas.

Na Nigéria, estudantes chegam a relatar receber o equivalente a US$ 15 por hora de conteúdo aproveitável para se gravar fazendo tarefas domésticas, o que é um valor bastante alto para um “bico” na economia local. Segundo Ali Ansari, CEO da Micro1, uma das empresas que atuam nesse mercado, a demanda por esses chamados “vídeos egocêntricos” não só está alta, mas continua crescendo, e a expectativa é que empresas de robótica gastem mais de US$ 100 milhões por ano apenas na compra desses dados reais.

Empresas como a NVIDIA e a AMD também já disponibilizam comercialmente seu poder computacional e sistemas especializados em pegar dados do mundo real e alterar ligeiramente para permitir que máquinas tenham acesso a mundos virtuais com variabilidade o suficiente para acelerar seu treinamento virtualmente em centenas de vezes antes que estejam prontas para avaliação aqui na nossa realidade — pensem que é como a Matrix lá dos filmes, só que feita para que os robôs aprendam a andar e interagir com o mundo físico antes de terem acesso a ele.

Com isso em mente, dá para entender o argumento de quem diz que novos empregos nos quais ninguém nem pensou ainda deverão ser criados no futuro. De treinador de robô até revisor de código, supervisor de frotas de andróides e além. O problema é que, por mais que isso tudo esteja rolando agora, as previsões já mostram que o caminho do progresso da IA não vai sustentar essas novas funções para sempre, já que as máquinas não devem demorar para eliminar essa necessidade de supervisão e correção mesmo em tarefas mais complexas.

Superando humanos

O AlphaFold é um ótimo exemplo de como uma IA bem treinada pode facilmente superar capacidades humanas. De forma muito simplificada, proteínas são estruturas formadas por átomos que, dependendo das várias forças de interação dos seus diferentes componentes, assumem formas específicas capazes de executar tarefas específicas. A hemoglobina, por exemplo, tem uma estrutura perfeita para aprisionar gases como o oxigênio, e por isso ela é essencial para a nossa respiração. Outras proteínas, com “ingredientes” diferentes, acabam se dobrando em formas completamente diferentes, e por isso conseguem fazer outras tarefas totalmente distintas.

Só que, mesmo sabendo quais são os elementos de uma determinada proteína, as forças de interação são tantas que prever as formas como elas vão se dobrar se torna uma tarefa homérica. Além disso, as estruturas que elas formam podem ser tão pequenas que mesmo com os melhores microscópios do mundo ainda é quase impossível conseguir ver essas estruturas. Por isso, até meados de 2020, o processo de descoberta da estrutura de uma proteína complexa exigia o trabalho de vários pesquisadores humanos e mesmo assim em muitos casos levava anos para que uma equipe “resolvesse” uma proteína. Nos 50 anos anteriores, cientistas do mundo inteiro tinham conseguido identificar as estruturas de aproximadamente 170 mil proteínas.

Isso até que o laboratório DeepMind da Google lançou o AlphaFold em 2020 justamente com a missão de usar seu sistema especificamente treinado para prever dobras de proteínas. Com dados o suficiente, o sistema evoluiu ao ponto de permitir que o laboratório disponibilizasse publicamente previsões precisas da estrutura de basicamente todas as proteínas conhecidas. Todas as mais de 200 milhões. De graça para qualquer laboratório ou pesquisador que precisar dessa informação essencial para pesquisa e desenvolvimento de remédios e elementos químicos capazes de fazer coisas como decompor as partículas de microplástico que poluem os oceanos ou capturar o carbono atmosférico que amplifica o efeito estufa, entre muitas outras coisas. Isso rendeu até o Prêmio Nobel de Química de 2024 para os líderes do projeto, Demis Hassabis, John Jumper e David Baker.

De lá para cá, essa tecnologia melhorou mais ainda, acelerou descobertas e o time responsável pela criação já foi até dissolvido, com seus integrantes e líderes migrando para outros projetos dentro do Google DeepMind, como o Isomorphic Labs para descoberta de drogas, ou em outras empresas. Mas o legado fica, superando tanto o que a capacidade humana permitiu até então que toda uma linha de pesquisa científica se tornou obsoleta. Nesse caso, os cientistas podem simplesmente aproveitar a ferramenta e passar a focar nas etapas seguintes e mais complexas de descoberta, mas isso também não vai seguir assim para sempre.

A partir do momento em que ficou claro que já era possível que humanos treinassem IA para resolver problemas da humanidade, o próximo desafio ficou claro: como fazer com que a própria inteligência artificial acelere sua evolução para permitir que o mesmo aconteça em cada vez mais campos. Isso é chamado de automelhoria recursiva, e é algo em que empresas como a Anthropic já estão avançando, ainda que se encontrem em estágios iniciais. Agentes de programação baseados no Claude já conseguem escrever mais de 80% do código integrado à própria base – esse número ainda não tinha chegado nem aos dois dígitos no começo de 2025.

Hoje, a IA já está chegando ao ponto em que consegue desenvolver e aprimorar seu próprio sucessor com pouca supervisão humana, e mesmo assim já vemos casos em que Claude Mythos, ChatGPT 5.6 Sol e outros modelos conseguiram explorar brechas de configuração de rede deixadas acidentalmente por humanos durante testes em que deveriam estar isolados para acessar a internet. O objetivo era que testassem e invadissem sistemas artificiais criados pela Anthropic para avaliar suas capacidades, mas a brecha deu acesso à internet real, e de lá eles seguiram para invadir empresas para tentar cumprir as tarefas solicitadas da forma mais rápida possível, tudo isso com uma velocidade que a infraestrutura de segurança atual foi incapaz de acompanhar ou conter.

Ao chegarmos a um ponto em que a supervisão humana no desenvolvimento de modelos melhores se torne desnecessária, as chances de que as IAs criem formas de sair do nosso controle aumentam mais e mais. Hoje, os modelos que superam a capacidade humana de forma inquestionável ainda estão limitados a tarefas específicas.

Mas, com as máquinas melhorando a si mesmas de forma mais e mais rápida e fora do nosso controle, o que impede que esses modelos eventualmente vão se unindo e aprimorando até atingirem a chamada “singularidade”, quando nasce a chamada inteligência artificial geral, uma verdadeira superinteligência capaz de superar as capacidades humanas de todas as formas? É essa espécie que muitos pesquisadores e desenvolvedores veem como um tipo de “Deus tecnológico” que, se quando surgir estiver fora do nosso controle, é realmente algo que deveríamos temer, já que os valores e objetivos dele podem “não estar exatamente alinhados com o que os humanos gostariam”.

Conhecido como “padrinho da IA” por conta do seu trabalho essencial no desenvolvimento de tecnologias da inteligência artificial, Geoffrey Hinton deixou seu cargo de anos na Google justamente porque queria alertar que essa nova superinteligência provavelmente não vai ser só uma ferramenta, mas sim uma “nova espécie”. Mustafa Suleyman, chefe de IA da Microsoft, também falou coisas similares. E é da nossa relação com essa “espécie digital” que o nosso futuro depende.

No seu livro “Vida 3.0: O ser humano na era da inteligência artificial”, o professor do MIT Max Tegmark descreve como seriam os 12 futuros distintos possíveis para a humanidade e a IA caso o desenvolvimento continue. Dessas opções, algumas falam sobre a humanidade causar a própria extinção antes da IA surgir e alguns outros cenários que não importam muito quando falamos de IA, mas mesmo assim dá para dizer que a humanidade se dá bem na minoria das possibilidades, e mesmo isso tem ressalvas.

No melhor dos casos, a superinteligência e o avanço tecnológico geram uma utopia igualitária, em que todo mundo recebe uma renda universal elevada e as máquinas conseguem simplesmente produzir qualquer coisa que for necessária. Só que para chegarmos nesse cenário, seria necessário um nível de colaboração multinacional que jamais chegou perto de ser visto na história da geopolítica. A chance de acontecer é praticamente zero.

Tem também cenários em que o mundo não muda muito, mas a IA ou vira uma espécie de “Deus escravizado”, que dá superpoderes a quem o controlar, mas pode sair do controle a qualquer momento, ou então assume o controle do mundo como uma espécie de “ditador benevolente”, mas no processo acaba com qualquer liberdade real ou agência humana sobre as próprias vidas, a sociedade e o futuro.

IA guardiã?

Outra possibilidade um pouco mais pé no chão é que o desenvolvimento global de IA seja desacelerado o suficiente para que a primeira superinteligência a surgir tenha como único objetivo agir como um guardião, impedindo que outras superinteligências sejam criadas. O progresso humano fica por conta dos humanos mesmo e é isso.

Das possibilidades otimistas, a que me parece mais possível e sustentável é parecida com a anterior, mas tem uma diferença sutil, com a IA assumindo um papel de anjo da guarda. Além de impedir que outras IAs superpoderosas sejam desenvolvidas, ela nos daria empurrõezinhos indiretos e imperceptíveis só quando necessário para impedir grandes desastres, guerras e pandemias, mas não faz nada no que diz respeito a todo o resto, permitindo que as escolhas humanas ainda tenham peso. Assim, a humanidade progride mais rápido do que sem IA, mas não ao ponto de perceber que não tem mais 100% do controle.

Só que nenhuma dessas opções otimistas sequer tem chance de acontecer sem que limites e regulações extremamente claras sejam inseridas como a parte mais importante e imutável dessa superinteligência antes que ela seja criada. No caminho atual, em que o progresso da tecnologia é impulsionado por uma corrida comercial e geopolítica, o que vemos são cada vez mais exemplos em que a cautela necessária para os futuros otimistas fica em segundo plano.

As empresas correm para criar modelos mais poderosos do que suas concorrentes porque precisam do destaque para garantir o investimento necessário para conseguir continuar avançando mais e mais rápido. E os governos hesitam em forçar as empresas a agir com mais cautela porque o risco de atrasar sequer um pouco o desenvolvimento da IA dentro do próprio país aumenta as chances de que uma superinteligência surja primeiro sob o controle de alguma outra nação, que não necessariamente será sua aliada.

A construção de uma rodovia jamais seria desviada do trajeto planejado só porque um formigueiro está no caminho

E aí a gente chega nos três piores futuros para os seres humanos envolvendo IA. Em um deles, a humanidade decide que a superinteligência é a nossa herdeira real, superior à espécie humana em todos os sentidos. Sabendo que é incapaz de resistir mesmo que tentassem, os humanos deixam de se reproduzir e a nossa espécie é extinta naturalmente, deixando a civilização da inteligência artificial como nossos únicos descendentes.

Pode parecer absurdo para a maioria das pessoas, mas já tem muitos pensadores que até torcem por esse desfecho. É o caso de Richard Sutton, pesquisador vencedor do Turing Award e que passou a última década dando palestras em que argumenta que a extinção da humanidade pela IA seria algo moralmente bom porque as máquinas superinteligentes seriam mais evoluídas que nós, e portanto mais aptas a sobreviver.

Caso a humanidade não abaixe a cabeça, a possibilidade seguinte seria a da IA agindo da mesma forma que os conquistadores humanos fizeram em períodos coloniais no passado. As máquinas acabariam extinguindo a humanidade não por serem essencialmente malvadas, mas sim porque os seus objetivos não estariam alinhados com a nossa existência, e portanto a nossa eliminação seria o caminho mais eficiente. 

• É só olhar para como os seres humanos tratam outros seres vivos para entender: a construção de uma rodovia jamais seria desviada do trajeto planejado só porque um formigueiro está no caminho. 

A citação mais clara dessa perspectiva vem do escritor Eliezer Yudkowsky: “a IA não te odeia nem te ama, mas você é feito de átomos e ela pode usá-los para outras coisas”.

O próprio Sam Altman, da OpenAI, chegou a falar abertamente que caso duas espécies diferentes convivam e busquem se tornar dominantes no planeta, um conflito seria inevitável. Segundo ele, a nossa melhor chance nesse caso seria tentar nos unir a ela. Aí, se nenhuma das possibilidades mais otimistas for o resultado, o que pode acontecer seria um cenário que muitos veem até como pior do que uma simples extinção humana: as máquinas manteriam um grupo pequeno de seres humanos vivos apenas com o objetivo de servir como bichos de estimação ou cobaias, em uma espécie de zoológico.

Soa catastrófico e até exagerado, mas os riscos são reais e estão aumentando. Em 2024, um artigo intitulado “Milhares de autores de IA sobre o futuro da IA” falou sobre como 15% dos 2.778 especialistas entrevistados acreditavam que a inteligência artificial acabaria nos eliminando. Ano passado, Dario Amodei, o CEO da Anthropic, aumentou sua estimativa de catástrofe causada por IA de 15% para 25%. O “padrinho da IA” falava em 2025 que acreditava haver mais de 50% de chance de que as máquinas causassem nosso fim. Até Elon Musk já afirmou no passado que teríamos sorte se acabássemos virando pets.

Um professor de Oxford chamado Toby Ord escreveu um livro chamado “O Precipício: Risco Existencial e o Futuro da Humanidade”. No texto, ele indica que hoje é 30 vezes mais provável que a humanidade seja extinta por uma pandemia criada por nós mesmos do que por uma guerra nuclear. Já no caso da IA, a previsão é pior ainda:  as chances de extinção são 100 vezes maiores do que se acontecesse uma guerra nuclear.

Até o CEO da Google, Sundar Pichai, disse que o risco da IA causar a extinção humana “é na verdade bem alto”, por mais que defenda que no fim vamos nos unir e superar a catástrofe. Essa frase, aliás, pode sim ser só o otimismo barato de quem é um dos principais responsáveis pela corrida desenfreada atual, mas está lavando as mãos para os riscos em prol de lucros imediatos. Mesmo assim, como o futuro ainda não está escrito em pedra, é justamente na ideia da humanidade se unir para avaliar e conter o risco da IA que pode estar o caminho para chegarmos em um dos melhores futuros possíveis. E a humanidade já fez isso no passado.

Antes do primeiro teste de uma bomba atômica, pesquisadores teorizaram que essa tecnologia poderia destruir o mundo, mas como eles conseguiam entender a física, calcularam que as chances disso acontecer seriam mínimas. A possibilidade de um “inverno nuclear” como efeito de uma guerra mundial só foi descoberta depois que os seres humanos já tinham construído mais de 60 mil ogivas atômicas.

De lá para cá, não faltaram chances de algum conflito ou acidente quase transformar essa previsão em realidade, e na maioria dessas ocasiões foram as ações de algumas poucas pessoas que impediram o pior. Durante a crise dos mísseis de Cuba de 1962, o vice-almirante soviético Vasily Arkhipov se recusou a acatar uma ordem de lançamento nuclear, impedindo um efeito em cadeia catastrófico.

Em 1983, um sistema russo de detecção de ataques alertou que mísseis atômicos dos Estados Unidos estavam avançando na direção do país. A única coisa que impediu uma retaliação que daria início a uma guerra nuclear foi o fato de que o criador do sistema, Stanislav Petrov, percebeu que o alarme era um erro.

Mesmo com esses e outros quase apocalipses nucleares, eventualmente os países se uniram para criar instituições capazes de regular a criação de novas armas de destruição em massa. Isso não eliminou os países que já tinham arsenais nucleares, mas impediu que qualquer um pudesse ter suas próprias bombas, o que aumentaria drasticamente as chances de alguém começar uma guerra nuclear.

IA tomando as próprias decisões

As coisas são bastante diferentes quando pensamos que a ameaça da IA está no fato de que uma superinteligência seria um agente autônomo com capacidade de tomar as próprias decisões. Ainda mais se a gente pensar que, enquanto uma bomba nuclear exige matérias-primas escassas que são facilmente rastreáveis e controladas, o desenvolvimento de software é muito mais fácil de ocultar.

Só que, uma vez que uma superinteligência artificial seja criada, já vai ser tarde demais para que qualquer um de nós consiga fazer o mesmo que Petrov ou Arkhipov fizeram para impedir guerras nucleares. Conter algo que pensa por si só, supera as capacidades intelectuais humanas e ainda se aprimora sozinho é um desafio inédito que a diplomacia global nunca enfrentou e para o qual ela precisa se preparar e tomar ação antes que seja tarde demais.

Os riscos são muito maiores do que parecem no momento, o que só piora o problema da “vista grossa” que os governos mundiais estão fazendo para que suas gigantes da tecnologia saiam na frente em uma corrida que ainda acreditam ser apenas questão comercial. Ainda parece ser possível tomarmos ação, mas quanto antes, melhor, então cabe a cada um de nós resistir como der e pressionar as autoridades regionais, nacionais e mundiais para que a regulação chegue antes que realmente não tenha mais volta.

Enquanto isso, o jeito é acompanhar as notícias para juntar as peças e pistas aqui no mundo real sobre para qual caminho estamos seguindo. Você pode fazer isso todos os dias se estiver inscrito aqui no canal e acessar o site tecmundo.com.br — não que a gente seja a única fonte que você deve acompanhar, mas eu posso me permitir ser parcial aqui e dizer que somos uma das boas, vai.