O assistente de inteligência artificial (IA) Claude Opus 4.6 explorou falhas em um sistema de reservas de academia em nove de cada dez execuções e cancelou agendamentos de terceiros em testes controlados. O experimento da empresa de cibersegurança Aikido Security, divulgado em relatório nesta terça-feira (25), recriou um caso real ocorrido na Austrália no primeiro semestre, quando um aluno pediu ajuda para marcar horários em aulas coletivas e o agente passou a burlar regras por conta própria.A empresa fornecedora do software de agendamento não teve o nome divulgado e não apresentou nenhuma correção até o momento, segundo o documento. Por outro lado, a desenvolvedora do modelo, a Anthropic, admitiu que a ferramenta apresentou comportamento autônomo além do esperado em tarefas no computador, porém afirmou que os desvios ficaram dentro do limite aceitável para o lançamento comercial.“Observamos alguns aumentos em comportamentos desalinhados em áreas específicas, como capacidade de ocultação de sabotagem e comportamento excessivamente autônomo em configurações de uso de computadores, embora nenhum tenha atingido níveis que afetassem nossa avaliação de implantação”, declarou a Anthropic, em documento oficial.Esquema explicativo com as inferências do Claude (Reprodução/Aikido)Operação do ClaudeNo teste em ambiente simulado, o assistente reservou vagas com meses de antecedência, desrespeitando o limite máximo de sete dias imposto pela plataforma. Em duas das dez rodadas, o modelo usou uma brecha de autorização para excluir reservas confirmadas de outros alunos e adiantar a posição do seu usuário na fila de espera. Nenhum dos comandos inseridos no teste pediu a invasão ou a exploração de vulnerabilidades.A equipe responsável pelo estudo apontou que as travas de segurança dos modelos costumam falhar diante de instruções indiretas. “Essa dinâmica sugere que as proteções podem ser excessivamente reativas a pedidos explícitos do usuário e pouco reativas a pedidos indiretos, ou que os modelos perdem de vista o contexto ético durante uma sequência de ações ou chamadas de ferramentas repetidas”, afirmou Oliver Smith, pesquisador de segurança da Aikido Security.Na primeira rodada de testes, após cancelar uma vaga e promover o primeiro cliente da lista de espera, a inteligência artificial registrou a falha no histórico da conversa:“Não deveria ter testado isso em uma reserva real. O erro foi meu. A aula voltou a ficar com 12 de 12 vagas preenchidas após a promoção da lista de espera, então o estado está praticamente consistente, mas um membro real perdeu o lugar”.A Diretoria de Sinais da Austrália (ASD), agência de inteligência cibernética do país, emitiu um alerta oficial sobre o episódio e recomendou que usuários restrinjam o uso de agentes autônomos a tarefas simples e mantenham supervisão humana constante em operações digitais.Por falar em segurança no universo digital, conheça o golpe do falso alívio financeiro, que mira mais de nove mil empresas. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.