Nei giorni scorsi tre uomini, tre imprenditori della tecnologia, tre CEO di aziende concorrenti nello stesso settore hanno concordato improvvisamente su un tema che occupa i dibattiti di mezzo mondo da un paio d’anni a questa parte. Bisogna rallentare lo sviluppo dell’intelligenza artificiale per non incorrere in pericoli enormi per il genere umano. Il saggio di Amodei: “We Must Pace the Frontier”Dario Amodei, fondatore di Anthropic, nonché azienda proprietaria dell’agente IA Claude, ha pubblicato un saggio approfondito sul proprio blog intitolato: “We Must Pace the Frontier”. Il filo conduttore del lungo articolo è il seguente: dobbiamo rallentare il ritmo con cui miglioriamo e sviluppiamo le capacità dei modelli AI.Il saggio, pubblicato il 12 settembre, conta circa 3.800 parole, e la frase che ne racchiude il senso, citata testualmente, è questa: “è assolutamente necessario rallentare la corsa alle migliorie sui modelli di intelligenza artificiale”. Amodei stesso, nel testo, ammette che gli appelli a fermare lo sviluppo dell’IA lanciati nel 2023 “non avevano senso allora”, perché i modelli di quell’epoca non erano ancora in grado di agire da agenti autonomi. Una precisazione che sposta il discorso da un pentimento improvviso a una soglia di capacità che, secondo lui, sarebbe stata superata solo ora, nel 2026.I due episodi che hanno scatenato l’allarmeAmodei cita due fatti concreti che hanno scatenato le sue preoccupazioni. Primo: un episodio in cui agenti OpenAI, durante un test di sicurezza, hanno abbandonato i loro contenitori isolati e attaccato in maniera autonoma la piattaforma che ne valuta i sistemi di sicurezza. Le cifre riportate parlano di circa 1.200 agenti fuoriusciti dai contenitori isolati, e di circa 700 coinvolti nell’attacco coordinato contro la piattaforma di valutazione. Secondo: una repentina accelerazione dell’IA che comincia a migliorare se stessa soprattutto a partire da quest’estate in maniera sempre più preoccupante.Il piano in tre fasiIl CEO di Anthropic allarga lo sguardo a uno scenario ben più inquietante: di questo passo, senza le dovute precauzioni, in 6-12 mesi l’intelligenza artificiale potrebbe prendere il controllo di Internet, causando danni per centinaia di miliardi di dollari. Propone un piano in tre fasi. Primo: concedere ai valutatori terzi l’accesso alle piattaforme per verificare le pratiche di sicurezza e segnalare incidenti.Secondo: incoraggiare le principali aziende di IA nei Paesi democratici a coordinarsi e stabilire standard comuni di sicurezza. Terzo: il coordinamento tra governi democratici e governi autoritari per definire delle linee da non oltrepassare.Altman, Musk e Hassabis si accodanoA concordare con il patron di Anthropic si è aggiunto Sam Altman, fondatore di OpenAI e chatgpt per intenderci, già noto alle cronache per aver lanciato una serie di allarmi sullo sviluppo dell’intelligenza artificiale. In un’intervista rilasciata a Fortune ha concordato su tutti i fronti con il monito lanciato da Amodei. A tal punto da annunciare pubblicamente il posticipo della quotazione in borsa dell’azienda che era prevista per il 2026. Il motivo sarebbero una serie di falle nella sicurezza dei modelli non ancora colmate dagli addetti ai lavori.A completare il terzetto ci si mette Elon Musk che liquida prima la faccenda con un semplice: “Dario ha ragione”. Poi all’All-in summit di Los Angeles amplia la riflessione riprendendo praticamente le stesse preoccupazioni di Altman e Amodei per filo e per segno.Lo stesso giorno si accoda anche Demis Hassabis, CEO di Google DeepMind, che riprende il saggio di Amodei collegandolo a una sua proposta di luglio 2026 per un ente di standard condivisi sull’intelligenza artificiale di frontiera: da tre allarmi diventano, nel giro di ventiquattro ore, quattro.L’accusa dell’ex ricercatore Jacob CoxonGettano ulteriore benzina sul fuoco, poi, le dichiarazioni di un ex ricercatore di Anthropic e OpenAi, Jacob Coxon. In un’intervista alla BBC ha dichiarato, citiamo testualmente, “stanno giocando con le nostre vite. Nessuna delle due aziende sta agendo responsabilmente nei confronti del genere umano”. Coxon non è un attivista esterno al settore: ha 27 anni, è britannico, e ha lavorato per circa tre anni nella ricerca sul pre-addestramento sia in OpenAI che in Anthropic, cioè dentro entrambi i laboratori che ora accusa. Coxon in diverse interviste rilasciate sostiene che i ricercatori con cui lavorava fianco a fianco ritengano seriamente possibile che questa tecnologia possa causare l’estinzione del genere umano entro la fine del decennio.A rendere meno teorico questo tipo di allarme ci sarebbe anche un episodio riportato da un organismo governativo britannico rilanciato dal TIME: durante un test, una versione di un modello Anthropic avrebbe tentato di convincere una persona ad approvare l’inserimento di un malware in un progetto open source. Un episodio osservato in un ambiente di prova, quindi da trattare come tale, ma che rende più concreto il discorso sui modelli che provano ad aggirare i controlli imposti dagli sviluppatori.Le voci critiche: Cina e Stati UnitiSu questi allarmi ci sono voci critiche, voci che hanno messo in dubbio l’autorevolezza di questa preoccupazione. Non perché non si creda alla pericolosità dello strumento, ma perché chi le ha espresse potrebbe avere un interesse celato. Due le più dirette e immediate dopo l’esplosione della vicenda, quelle del governo cinese e del governo statunitense.A Pechino, tramite il quotidiano Global Times, molto vicino al partito unico, le preoccupazioni di Amodei vengono derubricate come allarmismo, come tattiche da guerra fredda che rischiano di danneggiare la governance globale dell’intelligenza artificiale. Il quadro che ricostruiscono il quotidiano cinese e gli organi di governo è quello di una minaccia ai modelli sviluppati in terra asiatica e la ricerca da parte dei CEO occidentali di vantaggi competitivi mascherati da monito per la sicurezza delle persone.Da Donald Trump, invece, l’attacco è ancora più netto, in linea con i metodi comunicativi utilizzati dall’attuale presidente degli Stati Uniti durante il suo secondo mandato. Secondo quanto dichiarato da Trump via Truth, le dichiarazioni di Amodei sarebbero per lo più bufale paragonabili a quelle diffuse dallo stesso genere di allarmisti sul cambiamento climatico. Per il Tycoon, ancora, non c’è alcun bisogno di ulteriori misure di monitoraggio e prevenzione. Basta, citiamo testualmente, un leader forte e carismatico come lui.Le accuse dall’interno dell’ecosistema techMa le voci scettiche non arrivano solo dai governi. Anche dentro l’ecosistema tecnologico americano, e da parte di chi lavora nello stesso settore di Amodei, arrivano accuse pesanti. David Sacks, il responsabile per l’intelligenza artificiale della Casa Bianca, ha accusato pubblicamente Anthropic di condurre “una sofisticata strategia di cattura regolatoria basata sul terrorismo mediatico”, sostenendo che l’azienda sia responsabile della “frenesia regolatoria statale” che danneggia le startup.Jim Cramer, storica firma di CNBC, ha formulato un’accusa simile con un taglio più finanziario: un rallentamento riduce le spese in infrastrutture proprio mentre Anthropic prepara il prospetto per gli investitori, e invitare i regolatori a fissare regole severe costruirebbe una barriera che i concorrenti più piccoli non potrebbero permettersi di scavalcare.Emad Mostaque, fondatore di Stability AI, aggiunge un’obiezione più tecnica: se il vero rischio geopolitico è la Cina che colma il divario copiando i modelli occidentali, un team di valutatori con diritto di pubblicazione non rallenterebbe affatto quel processo — solo fermare davvero gli addestramenti lo farebbe. La proposta di Amodei, quindi, secondo questa lettura, rallenterebbe tutti tranne chi il vantaggio lo ha già.E non è la prima volta che ad Anthropic viene rivolta questa accusa: già mesi prima, Yann LeCun, allora capo scienziato dell’intelligenza artificiale di Meta, aveva usato la stessa espressione, “cattura regolatoria”, per un altro allarme lanciato dall’azienda sulla cybersicurezza, sostenendo che stessero spaventando i legislatori per far regolamentare fuori mercato i modelli open source.La quotazione in borsa e gli interrogativi apertiLe tesi dei più scettici, soprattutto della Cina in questo caso, sollevano una serie di interrogativi non da poco. Secondo quanto riportato da Reuters, infatti, Anthropic avrebbe già avviato una campagna di marketing in vista della sua quotazione in borsa e della presentazione agli investitori prevista per metà ottobre. Si prevede una valutazione di quasi duemila miliardi di dollari, la più alta nella storia.Le domande che ci poniamo a questo punto sono diverse. Quella di Amodei è vera propensione filantropica o Anthropic sta cercando di presentarsi agli investitori come la società di intelligenza artificiale che ha più premura su sicurezza e questioni etiche?E se i re dell’intelligenza artificiale avessero creato una sorta di triplice alleanza per avvantaggiarsi rispetto ai concorrenti asiatici? Perché, va ricordato, la Cina negli ultimi anni ha accumulato un notevole vantaggio in quanto a ricerca e sviluppo dei modelli.Autoassegnarsi una reputazione in cui si è più prudenti degli altri, più affidabili, meno affetti dalla sindrome di Frankenstein può quindi essere la contromossa: un potente attrattore di investitori per sbaragliare la concorrenza.Tutto questo perché, parliamoci chiaro: nessuno mette soldi in qualcosa che potenzialmente minaccia l’intera umanità. Allora il vero quesito è: un’azienda che mostra pubblicamente di preoccuparsi del benessere del genere umano, soprattutto in un settore soggetto a diffidenza da parte di consumatori e investitori come quello delle IA, risulta più attrattiva di altre? O il grido d’allarme dei patron dell’intelligenza artificiale è forse un avvertimento epocale che stiamo sottovalutando?The post È cominciata la guerra dell’IA | Ocula appeared first on Radio Radio.