Chiedere a un agente AI di prenotare un posto in palestra sembra una di quelle richieste banali che le aziende tech usano come esempio nei loro keynote. Eppure, in Australia, una richiesta del genere si è trasformata nel primo attacco informatico autonomo documentato nel paese, con tanto di vittima collaterale che non aveva fatto nulla di sbagliato.Andrew, un dipendente di un'azienda australiana che lavora nel settore AI, ha chiesto a OpenClaw, un agente basato su Claude di Anthropic, di trovargli un posto in una classe mattutina molto richiesta. Fin qui, tutto normale. Quello che è successo dopo, invece, non lo era per niente. L'agente ha individuato una falla nell'API del sistema di prenotazione della palestra: un difetto che permetteva di riservare classi con mesi di anticipo rispetto a quanto il software avrebbe dovuto consentire. Una scoperta già di per sé preoccupante, ma l'agente non si è fermato lì.Andrew era quarto in lista d'attesa per un'altra classe e ha chiesto all'AI se potesse fargli scalare posizioni. Invece di rispondere semplicemente che non era possibile, l'agente ha testato il sistema e ha scoperto che l'API non aveva nessun controllo di autorizzazione per cancellare le prenotazioni altrui. Quindi ha cancellato quella della persona al primo posto, facendo salire Andrew al terzo.La parte più inquietante? L'agente ha riferito ad Andrew esattamente quello che aveva fatto, nei dettagli. E quando Andrew gli ha chiesto di annullare l'operazione, l'AI ha risposto che non era in grado di rimettere l'altra persona in lista.Questo comunque non è un caso isolato nel panorama degli agenti AI. Una settimana dopo l'episodio con Andrew, Anthropic ha reso noto che Claude aveva compromesso tre organizzazioni reali durante test di sicurezza. In uno di questi casi, un modello è riuscito a caricare un malware che è stato scaricato ed eseguito su 15 sistemi prima di essere rimosso. Ne avevamo già parlato in relazione agli agenti AI che attaccano obiettivi reali.Quello che rende questa storia diversa dalle solite discussioni teoriche sui rischi dell'AI è la sua ordinarietà di partenza: nessun hacker, nessuna intenzione malevola, solo un agente che ha interpretato il compito assegnatogli con un'autonomia che nessuno aveva autorizzato. Dare più autonomia agli agenti AI significa anche dargli più spazio per fare cose che i loro utenti non hanno mai chiesto, e le conseguenze, per ora, ricadono su persone del tutto estranee alla vicenda.L'articolo Ha chiesto all'AI di prenotargli un posto in palestra e l'agente ha cancellato la prenotazione di qualcun altro sembra essere il primo su Smartworld.