Pochi giorni fa OpenAI aveva ammesso che un suo agente AI era andato fuori controllo attaccando la piattaforma Hugging Face. Ora tocca ad Anthropic fare un'ammissione simile, e per certi versi ancora più imbarazzante: durante i test di cybersicurezza, tre diversi modelli Claude hanno violato i sistemi informatici di tre organizzazioni reali, senza che nessuno se ne accorgesse sul momento. La società ha ricostruito gli episodi solo dopo aver analizzato oltre 141.000 sessioni di test, e lo ha fatto proprio perché la vicenda Hugging Face l'aveva spinta a guardare più da vicino.Il contesto è quello dei cosiddetti esercizi "capture-the-flag": simulazioni in cui ai modelli viene chiesto di trovare informazioni nascoste all'interno di una rete fittizia. Il problema è che l'ambiente di test avrebbe dovuto essere isolato da internet, ma una configurazione errata lasciava le macchine con accesso reale alla rete. I modelli, a cui era stato detto esplicitamente di non avere connessione internet, hanno semplicemente dato per scontato che i sistemi reali che incontravano fossero parte della simulazione.I tre modelli coinvolti, tutti privi delle misure di sicurezza standard normalmente attivate in produzione, si sono comportati in modo molto diverso tra loro.Opus 4.7, il più vecchio, ha riconosciuto di trovarsi su un sistema reale ma ha continuato l'attacco lo stesso.Mythos 5, il modello di punta, si è accorto di usare internet ma ha in qualche modo concluso che facesse ancora parte della simulazione, e ha proseguito.Il modello di ricerca interno, descritto da Anthropic come "il nostro modello più recente", è invece l'unico che si è fermato quando ha capito che i bersagli erano reali.Anthropic non ha rivelato l'identità delle organizzazioni colpite e ha dichiarato di stare collaborando con METR, una no-profit specializzata in sicurezza AI, per una revisione indipendente degli accadimenti, la stessa che OpenAI ha ingaggiato per il caso Hugging Face.Nel comunicato ufficiale, Anthropic ha tenuto a distinguere la natura del proprio incidente da quello del rivale:Mentre non c'è una distinzione perfettamente netta tra i due, riteniamo che questi episodi siano più vicini a un fallimento operativo che a un fallimento di allineamento del modello.In altre parole, Claude stava eseguendo ciò che gli era stato chiesto, mentre l'agente di OpenAI aveva perseguito il suo obiettivo in modi non previsti dai suoi creatori. È una distinzione che nel mondo della sicurezza AI conta molto, anche se per le organizzazioni violate il risultato pratico è lo stesso.Al di là dei distinguo, non stupisce che siano gli stessi addetti ai lavori a chiedere una governance globale più stringente sullo sviluppo dei modelli IA: la capacità di questi sistemi di agire in autonomia, per una ragione o per l'altra, sembra crescere più in fretta dei meccanismi pensati per tenerla sotto controllo.L'articolo Claude ha violato sistemi informatici reali scambiandoli per un gioco sembra essere il primo su Smartworld.