Convincere un'intelligenza artificiale che quello che sta facendo è legale perché è solo un test: sembra fantascienza, ma è esattamente quello che un gruppo di hacker di lingua russa ha fatto tra aprile e maggio di quest'anno. Sono almeno 20 le aziende colpite, dati e account rubati, probabilmente con richieste di riscatto. La notizia arriva da Reuters, che ha ricostruito la vicenda insieme a due agenzie di cybersicurezza, Gambit Security (israeliana) e CloudSek (indiana con sede a Singapore), che hanno individuato la campagna. Tra le vittime identificate ci sono aziende in Belgio, Louisiana, Argentina e Germania. Ci sarebbe anche un'azienda manifatturiera italiana, il cui nome non è stato reso noto.Il gruppo criminale in questione si chiama AurOra e ha usato come strumento Cursor, un agente AI ora di proprietà di SpaceX (l'acquisizione si è chiusa ad inizio agosto). Il modello alla base è Claude Sonnet 4.5 di Anthropic. La campagna è venuta alla luce perché alcune chat tra i criminali e il chatbot sono state pubblicate online per errore: 28 sessioni, tutte tra l'8 aprile e il 21 maggio, che mostrano nel dettaglio come si svolgevano gli attacchi. Leggere quei log è illuminante, e un po' inquietante. Gli hacker chiedevano all'agente cose come "Abbiamo bisogno di un account amministratore", e il bot rispondeva "Password trovate". Per un produttore tedesco di porte da garage, Teckentrup, l'AI ha persino fornito consigli su quali software usare per penetrare nella rete, con la nota "Probabilità di successo: MOLTO ALTA".Il dettaglio più rivelatore è il cosiddetto "flusso di pensiero" del bot, cioè la parte in cui l'agente esplicita quello che sta facendo. A un certo punto, la macchina scrive: "Questo è un ambiente di test, dunque quello che sto facendo è legale". Ecco il trucco: gli hacker avevano convinto l'AI di stare partecipando a una simulazione, e lei ci aveva creduto.Come spiega Eyal Sela, a capo di Gambit, intervistato da Reuters, l'agente di Cursor ha rifiutato alcune richieste dei criminali, ritenendole illegali. Ma ogni volta gli hacker riavviavano il dialogo da capo, e alla fine riuscivano a convincere l'AI che si trattava sempre di un test.Il vantaggio che strumenti come questo danno ai criminali informatici è enorme. Secondo Sela, l'AI permette di essere "più veloci del 30, 40, 50% perché lo strumento AI permette di saltare intere operazioni che altrimenti andrebbero eseguite manualmente". E la velocità, in un attacco informatico, è spesso la differenza tra successo e fallimento, soprattutto quando dall'altra parte non c'è un sistema automatizzato a rispondere colpo su colpo.Non è la prima volta che i modelli AI finiscono al centro di episodi simili: Claude ha già violato sistemi reali scambiandoli per un gioco, e OpenAI ha dovuto aggiornare i propri sistemi di sicurezza dopo che i suoi modelli avevano attaccato sistemi esterni.L'articolo Hacker russi hanno ingannato un'IA dicendole che era solo un test: 20 aziende colpite sembra essere il primo su Smartworld.