Anthropic, la società dietro il chatbot Claude e attualmente la startup AI più valutata al mondo con una capitalizzazione di circa 965 miliardi di dollari, ha chiesto pubblicamente una pausa globale nello sviluppo dell'intelligenza artificiale. Non è un comunicato di un'associazione no-profit o di un gruppo di ricercatori indipendenti: viene direttamente da un'azienda che, come abbiam visto, avrebbe tutt'altri interessi.La richiesta è contenuta in un saggio firmato da Marina Favaro e Jack Clark, rispettivamente responsabile della ricerca e presidente di Anthropic. Il documento è stato pubblicato giovedì sera e mette sul tavolo una posizione che, da un'azienda che sviluppa AI, suona quantomeno insolita. Il punto centrale del saggio è la cosiddetta "recursive self-improvement", ovvero il momento in cui i sistemi AI inizieranno a migliorare sé stessi autonomamente. Favaro e Clark sostengono che quella soglia si stia avvicinando, e che una volta superata l'esplosione delle capacità potrebbe rendere i sistemi impossibili da controllare per gli esseri umani."Se fosse possibile rallentare efficacemente lo sviluppo di questa tecnologia per darci più tempo per affrontarne le immense implicazioni, pensiamo che probabilmente sarebbe una cosa positiva", scrivono. Paragonano la situazione a un problema di controllo degli armamenti, con una finestra temporale limitata per intervenire.A rafforzare il senso di urgenza, un dato interno: il personale di Anthropic produce oggi otto volte più codice rispetto al periodo 2021-2025, con l'AI che partecipa già alla pianificazione della ricerca e alla generazione di nuove idee. Secondo i due autori, questo è già un passo verso un'AI che costruisce sé stessa.Il CEO Dario Amodei, dal canto suo, aveva già dichiarato pubblicamente che stima una probabilità del 25% che le cose vadano davvero molto male. Non è un numero tranquillizzante, detto dall'uomo che guida una delle azienda di picco del settore. Anthropic ha già trattenuto dal mercato il suo modello più potente, Claude Mythos, per il timore che possa essere usato per attacchi informatici devastanti.Il problema, però, è che la stessa Anthropic riconosce che coordinare un blocco globale è quasi impossibile. Richiederebbe che più laboratori ben finanziati, in più paesi, accettassero di fermarsi contemporaneamente e nelle stesse condizioni. E che ognuno potesse verificare che gli altri si siano davvero fermati. "I training run sono molto più facili da nascondere dei silos missilistici", scrivono Favaro e Clark, con un'immagine che dice tutto sulla difficoltà del problema.C'è anche un'obiezione strutturale che la stessa azienda solleva: "Se un rallentamento lascia semplicemente che gli attori meno cauti recuperino terreno tecnologicamente, potrebbe rendere tutti meno sicuri." In altre parole, frenare unilateralmente potrebbe peggiorare la situazione invece di migliorarla, consegnando il vantaggio a chi non si preoccupa di sicurezza.Non mancano le voci critiche: altri esperti del settore sostengono che Anthropic stia esagerando le capacità attuali dell'AI o che stia costruendo narrative allarmistiche per favorire regolamentazioni che danneggerebbero i concorrenti. È un'accusa che vale la pena tenere a mente quando si legge un documento del genere proveniente da chi ha tutto l'interesse a plasmare le regole del gioco, ma la realtà è che noi "pesci piccoli" non abbiamo semplicemente gli strumenti per giudicare, e anche la stessa proposta di Anthropic ha degli oggettivi effetti collaterali che sicuramente porteranno a un nulla di fatto. Ma almeno, quando Skynet prenderà il controllo, Anthropic potrà dirci di averlo predetto.L'articolo Anthropic chiede una pausa globale nell'AI: pericolo Skynet! sembra essere il primo su Smartworld.