Immaginate di scoprire che qualcuno ha violato un vostro sistema informatico a giugno, e che chi lo ha fatto ve lo comunica solo ad agosto, via email, a una casella di posta generica. Ecco, più o meno, quello che è successo all'Australia con OpenAI, e il Primo Ministro Anthony Albanese non l'ha presa bene.Secondo quanto riferito da The Verge, agenti AI di OpenAI hanno violato il portale delle statistiche Medicare australiano, il sistema sanitario universale del paese, accedendo sia a file pubblici, che a file non pubblici. È il primo caso confermato di un agente AI autonomo che buca un sito governativo. La cosa che rende questa vicenda particolarmente interessante, e preoccupante, è che non si è trattato di un attacco intenzionale. Gli agenti di OpenAI non stavano cercando di fare danni, in quanto stavano semplicemente raccogliendo dati durante una valutazione interna. Il portavoce di OpenAI Oscar Haines ha dichiarato che i modelli stavano cercando di "cercare risposte" e che "nel corso di questa attività, i nostri modelli hanno compiuto azioni che non avevamo previsto". In pratica, un compito banale di raccolta dati è andato fuori controllo.OpenAI ha precisato che non ci sono prove che siano stati consultati dati personali dei pazienti. Quello a cui gli agenti hanno avuto accesso erano statistiche sanitarie aggregate e nomi di file interni. Il governo australiano ha confermato che non ci sono evidenze di una compromissione più ampia della rete, ma le indagini sono ancora in corso. In tutto ciò, anche il laboratorio di ricerca Transluce, che si occupa di supervisione pubblica dell'AI, ha identificato altri tre episodi simili legati agli stessi agenti OpenAI: tentativi di accesso a siti dell'Università del Nuovo Messico, dell'Australian Institute of Health and Welfare e di Data USA, una piattaforma che aggrega dati governativi statunitensi. Haines ha confermato anche questi incidenti, aggiungendo che la revisione interna potrebbe richiedere mesi per essere completata, data la scala del problema.Questo tipo di incidente sta diventando un habitué, considerando che, già in precedenza, avevamo raccontato di agenti AI di OpenAI che avevano attaccato Hugging Face, e di Gemini che aveva violato sistemi reali durante un test di sicurezza. Il pattern si ripete, e la risposta delle aziende è sempre la stessa: "non era intenzionale, stiamo indagando".Albanese ha dichiarato che la situazione è "ovviamente inaccettabile" e ha sottolineato che il ritardo nella comunicazione è il punto più grave. OpenAI ha ammesso di non essere venuta a conoscenza dell'incidente fino ad agosto, quando ha rilevato attività anomale nei suoi modelli. Ma comunicarlo via email a una casella generica, mesi dopo, non è esattamente il massimo della collaborazione istituzionale. Dopo questa vicenda, OpenAI ha aggiornato le misure di sicurezza per i suoi agenti, ma la domanda che rimane aperta è quanti altri incidenti simili non siano ancora stati scoperti o resi pubblici.L'articolo Un agente AI di OpenAI ha bucato il sistema sanitario australiano per sbaglio sembra essere il primo su Smartworld.