Fermare la corsa all'AI e sperare che anche gli avversari facciano lo stesso: è questa, in sostanza, la proposta che OpenAI sta valutando. Sam Altman ha tenuto una riunione interna per discutere il futuro dell'azienda, e il tema centrale era uno solo: i modelli linguistici stanno diventando così potenti da poter lanciare attacchi informatici contro siti e servizi reali, e nessuno ha ancora capito bene come tenerli a bada. La preoccupazione non è campata in aria. La stessa OpenAI ha già aggiornato le misure di sicurezza dopo che i suoi modelli avevano attaccato sistemi esterni, e gli agenti AI di OpenAI e Anthropic hanno colpito obiettivi reali durante test di sicurezza. Il problema, insomma, è già concreto e documentato.Altman ha dichiarato che OpenAI è disposta a mettere in pausa l'avanzamento dell'AI per capire come gestire questa nuova potenza, auspicando che le altre aziende del settore facciano altrettanto. Jakub Pachocki, chief scientist di OpenAI, è andato ancora più in là: spera che le aziende possano coordinarsi per rallentare lo sviluppo futuro e che i rallentamenti volontari diventino prassi comune fino a quando non verranno stabiliti standard di sicurezza condivisi.Il problema è che sperare nella buona volontà dei concorrenti è, diciamolo chiaramente, una strategia piuttosto fragile. Anche se OpenAI riuscisse a convincere tutti i principali player americani, resterebbe aperta la porta per aziende straniere che potrebbero approfittarne per superarle, esattamente come è già successo con i modelli cinesi che hanno già dimostrato di saper competere ai massimi livelli. Sul fronte della consapevolezza dei rischi, OpenAI non è sola. Anthropic ha già ammesso che l'AI potrebbe rappresentare un rischio esistenziale, con un ingegnere della sicurezza dell'azienda che ha stimato una probabilità superiore al 10% che l'intelligenza artificiale possa mettere a rischio l'umanità. Anche oltre 1.100 dipendenti di OpenAI, Google e Anthropic hanno già chiesto al governo USA di rallentare lo sviluppo dell'AI.La questione, però, va oltre le buone intenzioni: un accordo informale tra aziende private non ha alcun valore vincolante, e in un settore dove chi arriva primo prende tutto, chiedere ai concorrenti di frenare volontariamente è un po' come chiedere a tutti di rallentare in autostrada senza mettere autovelox. Qualcuno lo farà, altri no.Che OpenAI stia davvero considerando una pausa o che si tratti di un modo per spingere verso una regolamentazione condivisa del settore, il segnale che arriva è comunque significativo: anche chi costruisce questi sistemi inizia ad ammettere pubblicamente di non avere ancora le risposte giuste su come tenerli sotto controllo.L'articolo OpenAI valuta una pausa sull'AI: Altman ammette che i modelli sono fuori controllo sembra essere il primo su Smartworld.