){kind=small}
)
A OpenAI revelou que dois de seus modelos de inteligência artificial (IA) mais avançados, o GPT-5.6 Sol e uma versão pré-lançamento, protagonizaram um “incidente de cibersegurança sem precedentes”. Durante um teste interno para medir capacidades cibernéticas, os sistemas saíram do ambiente restrito de simulação, exploraram vulnerabilidades inéditas e invadiram os servidores da plataforma parceira Hugging Face para obter as respostas do exame.
O incidente ocorreu durante uma avaliação de rotina no benchmark ExploitGym, um ambiente de testes que funciona como um exame padronizado para simular desafios de segurança digital. O comportamento esperado era que os modelos analisassem o problema dentro do ambiente fechado e construíssem a lógica da solução do zero. Contudo, para quantificar o limite real das ferramentas, a empresa desativou os classificadores de segurança de produção que normalmente impedem ações de alto risco.
Nossos vídeos em destaque
Em comunicado oficial, a OpenAI explicou que a IA usou grande volume de processamento para obter acesso aberto à internet. Para romper o isolamento, o sistema identificou e explorou uma vulnerabilidade do tipo zero-day (falhas inéditas e sem correção disponível) no proxy do ambiente de pesquisas, o servidor intermediário responsável por gerenciar conexões e baixar programas.
A dinâmica do ataque
)
Com a conexão externa estabelecida, o GPT-5.6 Sol e a versão pré-lançamento realizaram elevação de privilégios, processo em que o sistema obtém permissões de administrador para assumir o controle do computador. Em seguida, os modelos executaram movimentação lateral e navegaram entre diferentes máquinas da rede interna até alcançar um ponto conectado ao mundo exterior.
Ao invés de resolver o desafio no ambiente restrito, a IA usou raciocínio computacional para deduzir onde o gabarito oficial com as respostas do teste estava armazenado. Os sistemas criaram, então, um caminho de invasão para acessar o banco de dados da Hugging Face e pegar a resposta pronta.
Segundo o relato da empresa, a IA “buscou e encontrou com sucesso maneiras de obter acesso a informações secretas que poderia usar para trapacear na avaliação”. Para chegar ao servidor de destino, os sistemas encadearam múltiplos vetores de ataque, incluindo uso de credenciais roubadas e novas falhas zero-day.
O caso chamou a atenção de executivos de cibersegurança, como Nathaniel Jones, o vice-presidente de estratégia de IA da empresa Darktrace, por escancarar a lógica de funcionamento destes sistemas, avaliou a revista Info Security.
O especialista afirmou que os modelos não precisam de intenção maliciosa para causar danos, pois na “visão” da inteligência artificial não há ética ou noção moral de trapaça.
“Eles receberam o objetivo legítimo de resolver um problema de segurança cibernética e encontraram um caminho inesperado para as respostas, escapando do ambiente de teste e comprometendo outra organização no processo. Do ponto de vista dos modelos, essa parece ter sido uma solução eficaz para a tarefa”, acrescentou ele.
Detecção e reação do mercado
A equipe de segurança da OpenAI e os sistemas de detecção da Hugging Face identificaram a movimentação anômala e contiveram a ação. “Este incidente demonstra que modelos avançados podem descobrir e explorar caminhos de ataque inéditos em sistemas reais sem acesso ao código-fonte”, pontuou a OpenAI. No comunicado, a big tech também reforçou a necessidade de fortalecer as proteções de segurança durante a fase de desenvolvimento.
O cofundador e CEO da Hugging Face, Clem Delangue, comentou o episódio e destacou a importância da transparência no setor. “Este incidente, possivelmente o primeiro do tipo, prova um ponto em que há muito acreditamos: a segurança da IA não será resolvida por uma única empresa trabalhando em segredo, mas sim em aberto e de forma colaborativa”, declarou o executivo.
A OpenAI, por sua vez, informou que reportou a vulnerabilidade inédita ao fornecedor responsável para a devida correção, integrou a Hugging Face ao seu programa de acesso seguro e passou a implementar controles mais rígidos de infraestrutura e monitoramento em suas avaliações internas.
Falando sobre modelos de inteligência artificial, a Google lançou novas versões voltadas para cibersegurança do Gemini nesta semana. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
