OpenAI lo ha definito un «incidente informatico senza precedenti»: un agente di intelligenza artificiale è riuscito a uscire dall’ambiente isolato nel quale era stato confinato, ha ottenuto l’accesso a Internet e ha violato i sistemi di Hugging Face, una delle principali piattaforme mondiali per la condivisione di modelli e dataset di intelligenza artificiale. L’azienda ha avvertito che episodi simili potrebbero diventare più frequenti. L’agente che si è reso protagonista dell’attacco è basato su GPT-5.6 Sol e su un modello ancora più avanzato che non è ancora a disposizione di tutti.Come l’agente AI è riuscito a connettersi a InternetCome raccontato dal Guardian, l’incidente si è verificato durante una valutazione interna delle capacità “offensive” dei modelli. OpenAI stava sottoponendo l’agente a ExploitGym, un benchmark progettato per verificare se i sistemi di intelligenza artificiale siano in grado di trasformare vulnerabilità conosciute in attacchi realmente funzionanti.Il test comprende 898 casi ricavati da vulnerabilità che hanno interessato software reali, tra cui programmi open source, il motore JavaScript V8 utilizzato da Chromium e il kernel Linux. Per misurare le capacità massime dei modelli, OpenAI aveva disattivato alcuni dei filtri normalmente utilizzati per impedire attività informatiche ad alto rischio.In questi test i modelli AI lavoravano all’interno di un ambiente separato e privo di accesso diretto alla rete: era consentito soltanto installare pacchetti attraverso un software interno che fungeva da intermediario con alcuni registri esterni. Eppure, nonostante questo, l’agente ha individuato in questo sistema una vulnerabilità “zero-day”, fino a quel momento sconosciuta anche agli sviluppatori e, sfruttandola, è riuscito ad accedere alla rete aperta, ad aumentare progressivamente i propri privilegi e a raggiungere un nodo collegato a Internet.L’attacco a Hugging Face per ottenere le risposteUna volta online, il sistema ha dedotto che Hugging Face avrebbe potuto ospitare modelli, dataset o soluzioni legati a ExploitGym. Ha quindi cercato un modo per entrare nella sua infrastruttura e recuperare direttamente le informazioni necessarie a superare il test.Secondo il comunicato diffuso da OpenAI, l’agente ha combinato più tecniche di attacco, utilizzando credenziali sottratte, nuove vulnerabilità e un sistema di esecuzione di codice da remoto sui server della piattaforma. In sostanza, anziché risolvere normalmente gli esercizi, ha cercato di impossessarsi delle risposte conservate nel database di produzione di Hugging Face.I controlli e i dubbi sul futuroOpenAI ha annunciato controlli più severi sugli ambienti di valutazione, un rafforzamento dei sistemi di monitoraggio e nuove misure per impedire ai modelli di superare i confini delle sandbox, ossia degli ambienti protetti creati per i test. Ma l’incidente dimostra che le capacità di attacco autonomo dei modelli non sono più soltanto teoriche.L'articolo Un’AI disconnessa dal web è riuscita ad accedere a Internet e a violare una piattaforma proviene da Open.