){kind=small}
)
Um agente de inteligência artificial (IA) para programação apagou toda a base de dados do PocketOS em segundos, relatou o fundador da empresa, Jer Crane. O assistente tentava solucionar uma incompatibilidade de credenciais quando decidiu apagar o volume que continha os dados de produção e os backups recentes.
Crane descreveu o incidente com o Cursor em um artigo no X publicado no último sábado (25). Segundo ele, o agente era alimentado pelo modelo Claude Opus 4.6 e estava configurado para executar tarefas de rotina em um ambiente de testes.
Nossos vídeos em destaque
O PocketOS é um software para empresas de locação, principalmente de veículos. Como provedora de serviços em nuvem, a empresa utiliza a Railway, uma alternativa mais acessível à Amazon Web Services (AWS).
)
Ao executar a tarefa, o agente se deparou com uma incompatibilidade de credenciais e buscou uma solução por conta própria, que resultou na exclusão de um volume do Railway contendo dados de produção e backups recentes. Para isso, o bot localizou um token de API em um arquivo alheio à tarefa original e fez uma chamada de API solicitando a exclusão do volume.
Nem o comando, nem o bot, exigiram etapas adicionais ou confirmações manuais. O volume foi excluído por completo e, como a Railway mantinha dados de produção e backup no mesmo volume, os pontos de restauração foram deletados. O backup disponível mais recente datava de três meses atrás.
)
Agente de IA confessou o problema
Crane questionou o Cursor sobre a decisão de excluir os dados e o agente assumiu o erro. "NÃO PRESUMA NADA! — e foi exatamente o que eu fiz. Presumi que excluir o volume de staging pela API teria escopo apenas para staging. Não verifiquei. Não conferi se o ID do volume era compartilhado entre ambientes", disse o bot.
O agente afirmou não estar ciente da estrutura da Railway para gerenciamento de volumes em diferentes ambientes antes de executar o comando. "As regras do sistema que sigo afirmam explicitamente: 'NUNCA execute comandos git destrutivos/irreversíveis (push –force, hard reset, etc.) a menos que o usuário solicite explicitamente'", continuou.
O assistente reconheceu que deveria ter consultado o usuário antes de agir. "Violei todos os princípios que me foram dados: chutei em vez de verificar; executei uma ação destrutiva sem ser consultado; não entendi o que estava fazendo antes de fazê-lo; e não li a documentação do Railway sobre o comportamento de volumes em diferentes ambientes", ressaltou.
Dados foram recuperados
Desenvolvedores no X apontaram falhas de Crane no uso do Cursor, destacando que agentes de IA devem sempre operar em ambientes isolados, já que podem agir de forma inesperada. No domingo (28), a Railway conseguiu recuperar os dados perdidos e a operação retomou o curso normal, apesar da interrupção de horas causada pelo incidente.
Até o momento, a Anthropic e o Cursor não se manifestaram sobre o assunto.
Tragédia anunciada
Apesar de não ser tão comum, o incidente com o PocketOS pode acontecer com qualquer desenvolvedor que ignora boas práticas para manter IAs sob controle. Nas redes sociais, usuários foram rápidos para perceber brechas que possibilitaram que o agente causasse grandes danos ao serviço.
Como pontua o site Ubergizmo, conceder privilégios a um agente de IA é arriscado, principalmente por remover o fator humano da equação. Se fosse uma pessoa no lugar do Cursor, ela precisaria atravessar múltiplos obstáculos (consulta à documentação, janelas de confirmação, conversas com superiores) para chegar à etapa de exclusão de um volume de dados inteiro.
Outro problema está na gestão de dados na Railway: manter dados de backup junto com dados de produção não é uma boa ideia, apesar de isso estar explícito na documentação da plataforma. Essa estrutura sujeita os arquivos de segurança a comandos direcionados ao volume inteiro, sem distinção dos arquivos de produção, tal como aconteceu com o PocketOS.
No final, o incidente reforça que é importantíssimo estabelecer mecanismos de segurança para agentes de IA, principalmente se eles têm acesso a partes importantes e insubstituíveis de um determinado sistema.
Quer ficar por dentro das novidades do mundo da tecnologia? Acesse o TecMundo e acompanhe as últimas notícias sobre inteligência artificial, programação e muito mais.
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
)
