L’allarme sui possibili rischi esistenziali dell’intelligenza artificiale arriva direttamente al Congresso degli Stati Uniti. Un gruppo di membri della Camera dei Rappresentanti sta chiedendo allo speaker Mike Johnson di cancellare la lunga pausa parlamentare prevista nelle prossime settimane e di mantenere i deputati a Washington fino all’approvazione di misure bipartisan per la sicurezza dell’IA. A rivelarlo è Axios, che ha preso visione di una lettera in circolazione tra i parlamentari. (Axios)L’iniziativa è stata promossa dal democratico Sam Liccardo e vede tra i firmatari George Whitesides, Lori Trahan e Ted Lieu. La richiesta arriva mentre la Camera si prepara a riunirsi ancora per pochi giorni prima di una pausa di circa sei settimane in vista delle elezioni di novembre. Secondo Axios, la Camera dovrebbe infatti rimanere in sessione soltanto quattro giorni prima dell’Election Day. (Axios)Alla base dell’iniziativa vi sono le dichiarazioni pubbliche di alcuni ricercatori ed ex ricercatori di Anthropic, una delle principali società statunitensi impegnate nello sviluppo dell’intelligenza artificiale. L’ex ricercatore Jacob Coxon ha sostenuto che alcune delle persone direttamente coinvolte nella costruzione dei sistemi più avanzati ritengono concretamente possibile che l’IA possa provocare l’estinzione dell’umanità entro la fine del decennio. (Axios)A rilanciare l’allarme è stato anche Evan Hubinger, responsabile della ricerca sull’allineamento dei sistemi di IA presso Anthropic, che ha stimato in oltre il 10 per cento la probabilità che sistemi di intelligenza artificiale possano provocare la morte dell’intera umanità nell’arco del prossimo decennio. Si tratta di una valutazione personale e fortemente controversa, non di una previsione scientificamente condivisa, ma le dichiarazioni provenienti dall’interno dell’industria hanno avuto un forte impatto sul dibattito politico americano. (Axios)La preoccupazione ha ormai superato le divisioni tradizionali tra democratici e repubblicani. Diversi parlamentari hanno chiesto interventi urgenti, mentre la repubblicana Anna Paulina Luna ha proposto addirittura la convocazione di una sessione speciale del Congresso dedicata all’intelligenza artificiale. Anche il senatore repubblicano Ted Cruz, generalmente contrario a una regolamentazione particolarmente restrittiva del settore tecnologico e sostenitore della necessità di competere con la Cina, ha riconosciuto la necessità di introdurre strumenti di sicurezza. (Axios)Una delle proposte più concrete è l’“AI Kill Switch Act”, presentato il 23 luglio dai deputati Ted Lieu, democratico della California, e Nathaniel Moran, repubblicano del Texas. Il progetto di legge obbligherebbe gli sviluppatori dei sistemi di IA più potenti a mantenere la capacità tecnica di rallentarli, sospenderli o spegnerli completamente qualora rappresentassero un rischio catastrofico. (Lieu House)Il provvedimento attribuirebbe inoltre al segretario alla Sicurezza interna, dopo consultazioni con il segretario al Commercio e il direttore dell’Intelligence nazionale, la facoltà di ordinare il rallentamento o lo spegnimento di un sistema ritenuto in grado di provocare danni catastrofici. Sono previsti anche obblighi di segnalazione degli incidenti e di conservazione dei dati necessari a ricostruire eventuali malfunzionamenti. (Lieu House)La proposta nasce dalla preoccupazione per i cosiddetti sistemi “agentici”, modelli capaci non soltanto di fornire risposte ma di svolgere autonomamente sequenze di operazioni. Lieu e Moran sostengono che l’aumento dell’autonomia renda indispensabile garantire che l’essere umano conservi sempre la capacità tecnica di intervenire. (Lieu House)A Washington non esiste tuttavia ancora un consenso sulla portata della regolamentazione. Una parte del Congresso teme che norme troppo severe possano rallentare lo sviluppo tecnologico americano e favorire la Cina nella corsa globale all’intelligenza artificiale. Altri parlamentari ritengono invece che proprio la velocità con cui stanno aumentando le capacità dei nuovi modelli renda necessario intervenire prima che emergano rischi difficilmente controllabili. (Axios)Per il momento Johnson non ha dato indicazioni di voler avviare un’offensiva legislativa generale sulla sicurezza dell’IA. Secondo Axios, la leadership repubblicana ha previsto per la prossima settimana un provvedimento molto più circoscritto riguardante i data center, mentre numerosi democratici parlano già della regolamentazione dell’intelligenza artificiale come di una delle priorità del prossimo Congresso. (Axios)Il confronto che si sta aprendo a Capitol Hill segna comunque un cambiamento significativo. Fino a pochi mesi fa il dibattito politico americano sull’IA era dominato soprattutto dalla competizione tecnologica con la Cina, dagli investimenti e dalla costruzione di infrastrutture. Gli avvertimenti provenienti dagli stessi laboratori che sviluppano i modelli più avanzati stanno ora spostando rapidamente l’attenzione su una domanda molto più radicale: quali strumenti debbano essere predisposti per garantire che l’uomo possa continuare a controllare sistemi di intelligenza artificiale sempre più autonomi e potenti.