Sam Altman, Dario Amodei e Demis Hassabis hanno raggiunto un accordo informale per rallentare lo sviluppo dell'AI. L'obiettivo dichiarato è "fare il passo con la frontiera" invece di correrci contro a testa bassa. I critici, però, hanno una lettura diversa: per loro si tratta di un cartello mascherato da preoccupazione etica, pensato per bloccare i concorrenti più piccoli e frenare il movimento open source. La verità, come spesso accade, sta nel mezzo, ma non è rassicurante.Al centro del dibattito c'è un saggio di Amodei che propone tre misure: auditor terzi incorporati nei laboratori, regolamentazione dei principali lab AI, e un accordo globale di rallentamento. Tutto condivisibile sulla carta, ma il problema è chi lo propone e perché proprio adesso. Daniel Kokotajlo, ex ricercatore di OpenAI e ora a capo dell'AI Futures Project, è diretto: l'idea di rallentare non è nata dai CEO. Ricercatori e organizzazioni non profit chiedono una pausa da anni, incluse oltre 1.000 firme di dipendenti dei laboratori AI raccolte in una lettera pubblica dello scorso luglio. Ora che i CEO si appropriano della proposta, lo fanno "inchinandosi a quella pressione e rivendicandone il merito, non giustamente", dice Kokotajlo.Il rischio concreto, secondo più fonti, è il safety-washing, cioè portare qualche auditor esterno, produrre montagne di documentazione sulla sicurezza, e continuare a sviluppare AI alla stessa velocità di prima. "Porteranno qualche auditor esterno, faranno un sacco di burocrazia sulla sicurezza, ma alla fine non rallenteranno davvero", spiega ancora Kokotajlo. Del resto, è lo stesso schema già visto con le piattaforme social un decennio fa, quando chiamare la regolamentazione era il modo più furbo per evitarla.Nick Reese, ex direttore della politica sulle tecnologie emergenti al Dipartimento della Sicurezza Interna USA, è ancora più netto: "Il settore ha bisogno di nuovi campioni". Le persone più vicine al problema non sono necessariamente quelle più adatte a guidare la soluzione, soprattutto quando non hanno mai avuto una visione chiara di dove stanno andando. Sotto tutto questo c'è una questione tecnica che i ricercatori chiamano RSI, ovvero miglioramento ricorsivo autonomo: il punto in cui i modelli AI sarebbero in grado di addestrarsi, migliorarsi e creare nuove versioni di sé stessi senza intervento umano. Anthropic stima che questo momento potrebbe arrivare già all'inizio del 2027, e lo stesso Amodei cita la RSI come ragione principale della sua proposta di rallentamento.Le dichiarazioni dei ricercatori interni sono inquietanti. Evan Hubinger, team lead di Anthropic, ha scritto pubblicamente che "crediamo davvero che l'AI potrebbe uccidere tutti gli esseri umani", stimando la probabilità sopra il 10% nel prossimo decennio. Samuel Marks, altro ricercatore Anthropic, ha aggiunto che più un dipendente è senior, più è preoccupato. Micah Carroll di OpenAI parla di "rischio catastrofico inaccettabile" nello sviluppo AI ordinario. Sono le stesse aziende che continuano a sviluppare quei sistemi.Amodei ha proposto qualcosa di simile a un limite di velocità sulla RSI, paragonandolo ai tetti sulle testate nucleari. La proposta concreta dell'AI Futures Project va oltre: dare agli auditor accesso al budget computazionale dei laboratori e impegnarsi a ridurlo significativamente, così da rallentare davvero l'avanzamento e permettere agli altri di recuperare. L'obiezione più usata contro qualsiasi rallentamento è sempre la stessa, ovvero che la Cina non si fermerà. I politici e i CEO la citano e sottolineano che è meglio un'intelligenza artificiale pericolosa in mani americane che una in mani cinesi. Buck Shlegeris di Redwood Research risponde che non sarebbe "un livello di coordinamento internazionale senza precedenti", citando la de-proliferazione nucleare tra USA e Russia come esempio di cooperazione possibile anche tra avversari. Tyler Johnston del Midas Project aggiunge che il problema è abbastanza grave da rendere la cooperazione nell'interesse di tutti, inclusa la Cina.Il portavoce del Ministero degli Esteri cinese ha già risposto alle chiamate al rallentamento definendole "allarmismo". Ma come nota Sacha Haworth del Tech Oversight Project, "la Cina viene tirata in ballo come spauracchio ogni volta che un settore vuole sfuggire alla supervisione". Kokotajlo la mette in modo più visivo: ha paragonato la situazione a un cartone animato con persone in un'auto che precipita da un dirupo, con la nuvoletta che dice qualcosa come "Evviva, siamo davanti alla Cina".Nel frattempo, il governo Trump ha già chiarito la sua posizione: il presidente ha scritto che l'unico "guardrail" di cui l'AI ha bisogno è un presidente forte e intelligente, e ha definito le preoccupazioni sul settore "una bufala". La regolamentazione sostanziale, in questo contesto politico, è improbabile. Il che rende ancora più urgente capire se l'accordo volontario tra CEO abbia davvero i denti necessari, o se sia solo un'altra promessa destinata a non convertirsi in nulla di reale.L'articolo Altman, Amodei e Hassabis vogliono frenare l'AI: accordo etico o l'opposto? sembra essere il primo su Smartworld.