Agenti autonomi che sembrano sfuggire al controllo, incidenti di cybersecurity e timori di conseguenze catastrofiche per l’umanità: negli ultimi mesi il dibattito sull’IA oscilla tra problemi concreti e scenari estremi. Occorre prendere sul serio entrambi, distinguendo i comportamenti già osservati — agenti IA che sembrano aggirare i vincoli imposti dai programmatori — dai rischi futuri, ancora incerti. Ma concentrarsi soltanto sulle macchine rischia di lasciare in ombra le decisioni umane che ne rendono più difficile il controllo.La dinamica più pericolosa non è necessariamente un’IA “malvagia”, ma un sistema internazionale che spinge Stati e imprese a correre più velocemente dei propri controlli. Prima di chiederci se una macchina possa ribellarsi, dovremmo domandarci chi l’abbia autorizzata ad agire, con quali strumenti e sotto quali verifiche.Per un’impresa, aspettare può significare perdere clienti e quote di mercato. Per un governo, imporre controlli più severi può apparire come un favore alle potenze rivali. La sicurezza diventa così un costo immediato, mentre i suoi benefici restano meno visibili: un incidente evitato non produce annunci, ricavi o primati nazionali. Anche attori consapevoli dei pericoli possono alimentare una corsa rischiosa, se ciascuno considera la propria accelerazione una risposta obbligata a quella degli altri.La competizione è esplicita. Washington collega la leadership nell’IA alla forza economica, alla sicurezza nazionale e all’influenza internazionale degli Stati Uniti. Pechino inserisce l’IA nella costruzione della propria autonomia tecnologica e nella trasformazione industriale. L’Europa cerca di combinare regole e capacità produttiva, affiancando alla tutela dei diritti investimenti, infrastrutture di calcolo e competenze.Le strategie divergono, ma rispondono a una preoccupazione comune: la dipendenza dalla tecnologia altrui. Chiedere genericamente prudenza non basta; occorre rendere la sicurezza una condizione della competizione, non una rinuncia affidata alla buona volontà dei singoli, né tantomeno alle aziende private.Con gli agenti autonomi, l’esigenza diventa più urgente. Un sistema autorizzato a eseguire codice, utilizzare credenziali o intervenire su servizi esterni può trasformare un errore in una sequenza di azioni: una risposta inesatta può già provocare gravi danni. Non serve attribuire alle macchine intenzioni umane. Basta che trovino una soluzione efficace rispetto al risultato richiesto, ma incompatibile con i limiti che avrebbe dovuto rispettare. La domanda non è soltanto quanto sia affidabile il modello: è quanto danno possa produrre prima che qualcuno intervenga.Da qui dovrebbero partire tre scelte politiche.La prima è separare lo sviluppo dalla verifica. I test interni sono necessari, ma non possono esaurire il controllo sui sistemi con conseguenze rilevanti. Servono valutazioni indipendenti e accessi tecnici adeguati. La riservatezza industriale va tutelata, senza trasformarla in uno scudo contro ogni scrutinio.La seconda è rendere esplicita la responsabilità di autorizzare le azioni. Chi concede a un agente l’accesso a una rete o la possibilità di modificare un sistema deve rispondere di quella scelta. Permessi circoscritti, registrazioni verificabili e possibilità di revoca devono precedere l’impiego, non seguire un incidente.La terza è costruire una cooperazione minima tra rivali. Non occorre condividere segreti industriali per concordare procedure di segnalazione degli incidenti, criteri confrontabili di valutazione e contatti nelle emergenze.In questo quadro può essere utile il lavoro del Panel scientifico indipendente delle Nazioni Unite sull’IA (un gruppo di 40 esperti indipendenti incaricato di valutare opportunità, rischi e impatti dell’intelligenza artificiale): non un’autorità sovranazionale di governo, ma un organismo chiamato a fornire una base scientifica condivisa per orientare le decisioni politiche e regolatorie. La scelta non è tra correre e fermarsi, ma tra governare l’innovazione e inseguirne le conseguenze: la leadership tecnologica si misura anche nella capacità di valutare i rischi e definire le responsabilità prima dell’impiego dei sistemi di IA, non soltanto dopo un incidente.(Avvertenza dell’autore: le opinioni contenute in questo articolo sono espresse a titolo personale e non sono attribuibili al Ministero degli Affari Esteri e della Cooperazione Internazionale italiano)