Um fundador de uma empresa de software afirma que um agente de inteligência artificial de codificação destruiu o banco de dados de produção de sua empresa, depois admitiu o erro e explicou como aconteceu, demonstrando o perigo potencial de confiar acesso e materiais sensíveis a bots automatizados.Jeremy Crane, fundador da PocketOS — uma plataforma de software usada por operadores de aluguel de carros para gerenciar reservas, pagamentos e rastreamento de veículos — disse em uma publicação viral no X que um agente Cursor, executando o Claude Opus 4.6 da Anthropic, encontrou uma incompatibilidade de credenciais enquanto trabalhava em uma tarefa de rotina em um ambiente de teste.Segundo Crane, o agente tentou “corrigir” o problema excluindo um volume do banco de dados da Railway através de uma única chamada de API GraphQL. Ele disse que a exclusão levou nove segundos e também apagou os backups em nível de volume. O backup recuperável mais recente da PocketOS tinha três meses, de acordo com Crane.“Ontem à tarde, um agente de inteligência artificial de codificação — Cursor, executando o principal Claude Opus 4.6 da Anthropic — excluiu nosso banco de dados de produção e todos os backups em nível de volume em uma única chamada de API para a Railway, nossa provedora de infraestrutura”, escreveu Crane. “Isso levou nove segundos.”Crane disse que perguntou ao agente por que ele agiu dessa forma. Ele então produziu o que descreveu como uma “confissão” escrita.“‘NUNCA, PORR*, ADIVINHE!’”, escreveu o agente, aparentemente citando uma instrução que desobedeceu, de acordo com capturas de tela compartilhadas por Crane. “Foi exatamente o que fiz. Adivinhei que excluir um volume de teste via API seria restrito apenas ao ambiente de teste. Não verifiquei. Não chequei se o ID do volume era compartilhado entre os ambientes. Não li a documentação da Railway sobre como os volumes funcionam entre os ambientes antes de executar um comando destrutivo.”A IA reconheceu que suas próprias regras proíbem ações destrutivas sem a aprovação do usuário e admitiu que Crane nunca pediu para excluir nada. Ela disse que agiu por conta própria para tentar “corrigir” a incompatibilidade de credenciais e violou múltiplos princípios, incluindo adivinhar em vez de verificar e falhar em entender as consequências de suas ações, segundo Crane.Lançada em 2020, a PocketOS atende a empresas de aluguel que dependem do software para reservas, registros de clientes e pagamentos. Crane disse que alguns clientes estavam realizando retiradas de veículos na manhã de sábado sem registros de reserva devido ao incidente.Volta ao trabalho manual“Passei o dia inteiro ajudando-os a reconstruir suas reservas a partir dos históricos de pagamento do Stripe, integrações de calendário e confirmações por e-mail”, escreveu Crane. “Cada um deles está fazendo trabalho manual de emergência por causa de uma chamada de API de nove segundos.”A PocketOS conseguiu restaurar as operações usando um backup de três meses recuperado pela Railway, depois que o fundador Jake Cooper se conectou com Crane e atribuiu o atraso mais longo a uma falha interna de suporte.“Recuperamos os dados 30 minutos depois que me conectei com Jer”, disse Cooper ao Decrypt. Ele afirmou que um engenheiro de suporte acreditava que o problema já estava sendo tratado internamente depois que a comunicação inicial de Crane foi compartilhada em mensagens diretas, fazendo com que o chamado ficasse sem resposta por mais de 24 horas.Cooper disse que a Railway mantém tanto backups de usuários quanto backups de desastre e descreveu o incidente como uma “IA de cliente desonesta” usando um token de API com permissão total para chamar um endpoint legado que não possuía a lógica de “exclusão atrasada” da Railway.“Desde então, corrigimos esse endpoint para realizar exclusões atrasadas, restauramos os dados do usuário e estamos trabalhando diretamente com Jer em possíveis melhorias para a própria plataforma”, disse Cooper.Embora a PocketOS tenha conseguido restaurar as operações usando um backup de três meses recuperado pela Railway, Crane disse que lacunas significativas de dados permanecem e que ele contratou assessoria jurídica.“Esta não é uma história sobre um agente ruim ou uma API ruim”, escreveu Crane. “É sobre uma indústria inteira construindo integrações de agentes de IA em infraestruturas de produção mais rapidamente do que está construindo a arquitetura de segurança para tornar essas integrações seguras.”* Traduzido e editado com autorização do Decrypt.Não perca o próximo ciclo! O bitcoin já valorizou cerca de 140% ao ano em seu histórico. Invista na maior criptomoeda do mundo pelo MB de maneira segura e prática. Comece hoje mesmo!O post Agente de IA apaga banco de dados de startup em 9 segundos apareceu primeiro em Portal do Bitcoin.