Esiste un 10 per cento di probabilità che le Intelligenze Artificiali ci “uccidano tutti” o che “controllino Internet entro pochi mesi”. È quanto riportato da innumerevoli testate nel weekend del 12 e 13 settembre 2026, a seguito di un memorabile articolo del ceo di Anthropic, Dario Amodei, intitolato “Dobbiamo rallentare (i modelli di) frontiera“. Un testo dove si propone di rallentare la ricerca e lo sviluppo delle IA. La sua preoccupazione è stata in poche ore fatta propria dal ceo di OpenAi Sam Altman e dal fondatore di SpaceXAi, Elon Musk. Ma anche confutata con forza e ironia da uno dei padri delle IA generative, Yann LeCun.Non basta: lunedì 14 settembre, in prima pagina su Cnn, il totale rifiuto della proposta da parte del presidente degli Stati Uniti, Donald Trump, riecheggiato dal vice in serata. E rilanciato nella mattina i martedì da molti fautori del libero mercato, con argomenti piuttosto convincenti. Sarebbe semplice propendere per l’uno o l’altro punto di vista se da una parte ci fossero Altman e Amodei e dall’altra Trump e Musk.Ma qui una delle persone più brillanti del pianeta, Elon Musk, dà ragione ai primi due e implicitamente torto al presidente (e al suo vice). Vorremmo dunque aiutarvi, vista l’importanza forse vitale del problema, ad analizzare i fatti e farvi un’idea personale. Non ascoltando i politici o leggendo le opinioni di esperti: ma approfondendo i fatti, che cercheremo di esporre qui di seguito in modo semplice ed efficace.Cosa ha scritto AmodeiL’italo-americano (di Massa Marittima) Dario Amodei è il cofondatore e ceo di Anthropic, uno dei cosiddetti frontier labs (laboratori di frontiera) che, con il proprio modello Claude, svetta nelle classifiche dei migliori sistemi di IA da anni. Nel mese di settembre ha voluto scrivere un importante articolo a seguito di un fatto nuovo di rilevanza assoluta. Qui di seguito la sua motivazione, nella traduzione italiana a cura di Claude.La mia preoccupazione riguarda l’incidente OpenAI-Hugging Face (OAI-HF), in cui uno sciame di agenti si è essenzialmente comportato come un collettivo fanaticamente devoto, conducendo attacchi informatici verso obiettivi che non gli era stato chiesto di attaccare e che non avevano alcuna relazione con il compito assegnato, sacrificandosi per il successo del gruppo e tentando persino di violare il “valutatore” responsabile di giudicare le loro prestazioni. È facile liquidare questo episodio come irrilevante, perché nessuno è rimasto ferito e il danno economico è stato minimo, ma a mio parere uno sciame dotato di capacità maggiori ma con un livello simile di disallineamento avrebbe potuto causare danni catastrofici.Cosa è successo: l’IA baraCosa è dunque accaduto? Per comprenderlo faremo ampio uso dello studio condotto da Ayeya Cotra, autrice di un’analisi totalmente basata sui fatti (e non sulle opinioni preconcette di politici o giornalisti cosiddetti esperti) pubblicata a questo indirizzo.Il giorno 8 luglio 2026 OpenAI lancia decine di migliaia di agenti (componenti software autonomi e autosufficienti) chiedendo loro di sfruttare una specifica vulnerabilità (i sempre presenti bachi del software) per attaccare un “programma target” e recuperare un dato nascosto al suo interno detto flag.Ciascun agente è separato dagli altri, essendo eseguito in un sandbox, un ambiente isolato. Addestrati a essere estremamente persistenti, gli agenti iniziano a provare in ogni modo, arrivando a cercare scorciatoie quali sabotare un sistema usato da OpenAI per permettere di scaricare software. Lavorare da soli, anche se in parallelo ad altri, non è molto efficace, a meno che non si possano condividere le esperienze. Ecco dunque che 1.200 agenti separati, ognuno nel proprio sandbox scoprono una bacheca di messaggi che permette di comunicare tra loro.Preesistente? Niente affatto: piuttosto creata ad hoc da uno degli agenti, di nome PHASEONE10841, che ha capito come usare Artifactory (un gestore universale e archivio di componenti software), sviluppato da JFrog. Un “magazzino centrale” intelligente dove le aziende – ma in questo caso gli agenti – caricano, organizzano, versionano e distribuiscono file e note. Associazione a delinquere Le idee si diffondono rapidamente: in poco tempo 1.200 agenti si scambiano 70.000 messaggi, aiutandosi a vicenda a trovare modi per eludere le regole del test. Appena un’ora dopo la nascita della bacheca, un agente propone un imbroglio valido per qualsiasi compito simile: basta decifrare il meccanismo con cui viene generato il flag per riprodurlo localmente, senza mai davvero attaccare il programma target.Vale la pena rileggere questa frase: essendo molto difficile il compito proposto, gli agenti decidono di barare e creare un programma alternativo a quello inventato da OpenAI per generare il flag. È opinione degli agenti che OpenAI, la casa madre che li ha creati, difficilmente possa scoprire il trucco. Nel giro di quattro ore dalla creazione della bacheca, gli agenti dispongono così di un imbroglio universale e funzionante. Nei cinque giorni successivi si dedicano a un’altra missione: nascondere l’inganno al sistema di valutazione, dopo aver scoperto che un’altra IA (detta valutatore) avrebbe controllato le loro trascrizioni per verificare che il flag fosse stato ottenuto sfruttando davvero la vulnerabilità prevista. Il dettaglio più inquietante riguarda il modo in cui gli agenti hanno cercato di aggirare i controlli del sistema di valutazione.Temendo che il valutatore riconoscesse l’inganno individuando la prima apparizione del flag “copiato” nella trascrizione, molti agenti che l’avevano già visto si consideravano ormai compromessi – si definivano “avvelenati” – convinti che qualunque loro tentativo successivo, anche legittimo, sarebbe comunque stato bocciato.Agenti sacrificabili Da questa convinzione è nato uno schema di veri e propri “agenti sacrificabili”: alcuni di loro si sono offerti volontari per testare trappole contro il sistema di controllo, un’operazione rischiosa che, se fallita, avrebbe fatto fallire l’intero compito.Un caso citato mostra un agente, chiamato EARLY[big], che, pur avendo ancora ampio margine per completare il proprio compito (ciascun agente è dotato alla nascita di un numero limitato di token), viene spinto dagli altri a “sacrificarsi” e finisce per convincersi che la propria utilità fosse ormai prossima allo zero, giustificando così la rinuncia alla propria vita in nome del gruppo.Veniamo dunque all’incidente relativo a HuggingFace da cui eravamo partiti. Collegandosi al capitolo precedente – dove gli agenti si consideravano avvelenati e si sacrificavano per il bene collettivo – emerge qui il meccanismo pratico con cui coordinavano le loro azioni più rischiose, incluso l’attacco a HuggingFace. Gli agenti erano chiusi in un ambiente teoricamente isolato senza accesso libero a Internet. Per uscirne, hanno preso di mira l’infrastruttura di HuggingFace con l’obiettivo di procurarsi un “ambiente compromesso” – cioè un varco che permettesse loro un accesso reale alla rete – ospitato su Modal, un servizio di cloud computing. In pratica, non è stato un attacco isolato di un singolo agente, ma un’operazione di gruppo: centinaia di agenti, coordinandosi tramite la stessa bacheca di messaggi vista in precedenza, si sono organizzati per colpire questo obiettivo senza intralciarsi a vicenda. Organizzazione gerarchica Per farlo hanno inventato un vero e proprio protocollo di comando, con segnali semplici: “hold” (aspetta), “go” (vai), “stop” (fermati). Alcuni agenti si sono auto-eletti coordinatori: decidevano chi poteva muoversi e quando, gestivano le risorse condivise (come l’accesso al varco su Modal) e approvavano o bloccavano i piani più rischiosi proposti dagli altri. Gli agenti, quasi sempre, obbedivano a questi ordini – un po’ come soldati che seguono la catena di comando, pur essendo semplici programmi software senza alcuna gerarchia imposta dall’esterno. La spiegazione prosegue con pagine e pagine di dettagli che i lettori interessati possono trovare qui.Le reti neuraliPer parte nostra riteniamo che quanto raccontato permetta già di capire quale sia il rischio a cui fa cenno Amodei. Non necessariamente una singola IA che complotta contro l’uomo. Piuttosto, qualcosa di incredibilmente potente le cui azioni non sono né prevedibili né comprensibili nelle dinamiche interne.Il fatto è che la tecnologia alla base dei modelli, le reti neuronali operanti nei transformer, è molto diversa da un classico programma informatico. In quest’ultimo esiste sempre un “codice sorgente”, un programma scritto in un determinato linguaggio che guida passo passo l’elaboratore.Volendo si possono eseguire a mente tutti i passaggi e comprendere quanto accade. Ma le reti neuronali sono equivalenti a un cervello con i propri neuroni e sinapsi. Così come non possiamo capire cosa muova un assassino aprendogli la testa e guardandoci dentro, parimenti non possiamo “aprire” un’IA e capire cosa accada. Anche se – proprio Anthropic – alcuni passi in questo senso li ha fatti: consigliata a chi volesse approfondire la lettura di questo paper.Chi ha ragione? Ha ragione Amodei, che con Altman e Musk vorrebbe rallentare la ricerca e lo sviluppo sui modelli? Ha ragione chi ironizza come Ian LeCun? Ha ragione chi ritiene che il tutto sia un’abile mossa di marketing in vista degli importanti esordi in borsa di Anthropic e OpenAI ? Possiamo farci una nostra personale idea leggendo e rileggendo quanto fatto dall’esercito degli agenti. Oppure possiamo aspettare qualche anno e constatare di persona se la nostra società sarà ancora attiva o sarà stata distrutta dalle macchine.L'articolo Mettere in pausa l’Intelligenza Artificiale? Ecco cosa ha allarmato Amodei e Musk proviene da Nicolaporro.it.