Nel 1983, il cinema poteva soltanto immaginare computer capaci di portare il mondo sull’orlo della catastrofe. Oggi il pericolo potrebbe essere meno spettacolare, ma non per questo meno concreto: un’intelligenza artificiale che non controlla direttamente i missili, ma contribuisce a convincere gli esseri umani che sia necessario lanciarli.Ci sono film che, con il passare del tempo, diventano sempre più inquietanti. WarGames e Allarme rosso appartengono a questa categoria. Pur raccontando scenari diversi, entrambi affrontano una questione fondamentale: che cosa accade quando tecnologia, informazioni e decisioni umane si intrecciano in un contesto nel quale un errore può avere conseguenze irreversibili?Da quando WarGames venne proiettato per la prima volta sono passati più di quarant’anni. La Guerra fredda è finita (o forse sarebbe meglio dire che si è trasformata), il mondo è cambiato, i computer sono diventati immensamente più potenti e l’intelligenza artificiale è entrata nella vita quotidiana. Eppure, la questione sollevata da quel film è ancora attuale: quanto possiamo fidarci dei sistemi tecnologici quando in gioco c’è la sopravvivenza stessa dell’umanità?Per chi fosse troppo giovane per averlo visto, WarGames racconta la storia di un adolescente che, giocando con il computer, si collega involontariamente al sistema militare statunitense incaricato di gestire la simulazione di una guerra nucleare. Convinto di trovarsi davanti a un videogioco, comincia a interagire con la macchina, che rischia di scambiare una simulazione per una minaccia reale.Il film coglieva un punto cruciale: una macchina può elaborare informazioni, simulare scenari e produrre risultati senza comprendere davvero il significato e le conseguenze umane e geopolitiche delle proprie conclusioni.Un aspetto interessante è che il gioco della guerra nucleare conduce il computer a una constatazione semplice e terribile: in un conflitto atomico non ci sono veri vincitori. Il messaggio degli autori di WarGames è chiaro: il pericolo nasce anche dall’incapacità di distinguere una simulazione dalla realtà, un falso allarme da un attacco autentico, un dato tecnico da una decisione che coinvolge il destino di milioni di persone.La tecnologia, in questo scenario, non deve necessariamente avere intenzioni malvagie per diventare pericolosa. È sufficiente che venga inserita in un sistema decisionale incapace di riconoscere tempestivamente un errore.Anche Allarme rosso, il film del 1995 diretto da Tony Scott, affronta il tema del rischio nucleare, ma da una prospettiva diversa. A bordo di un sottomarino lanciamissili statunitense, una comunicazione incompleta e la sua interpretazione divergente provocano uno scontro tra il comandante e il suo secondo. La posta in gioco è l’ordine di lanciare ordigni nucleari e dare inizio a una guerra dalle conseguenze catastrofiche.Il film mette in scena un dilemma che rimane attuale. In un contesto militare nucleare, l’incertezza è una condizione particolarmente pericolosa. Chi deve decidere può disporre di pochi minuti, non avere accesso a tutte le informazioni e trovarsi costretto a scegliere tra rischi enormi.È proprio nell’intervallo tra ciò che è realmente accaduto e ciò che si crede possa essere accaduto che può nascere una catastrofe.Due trame diverse, ma accomunate dal rapporto tra rischio nucleare, tecnologia e gestione delle informazioni. Uno scenario che oggi, a distanza di decenni dall’uscita di quei film nelle sale cinematografiche, richiama l’attenzione su una questione di cui si parla troppo poco: la possibilità che l’intelligenza artificiale contribuisca a far interpretare erroneamente una situazione difficile come un contesto di guerra.Immagini satellitari, comunicazioni militari, movimenti di mezzi e segnali radar vengono raccolti ed elaborati attraverso sistemi informatici più o meno sicuri. Ma nessuno di questi sistemi è del tutto esente da errori o vulnerabilità. Il loro compito è anche quello di individuare possibili preparativi per un attacco. In condizioni normali, questi strumenti possono aiutare gli analisti a riconoscere segnali che altrimenti passerebbero inosservati.Ma che cosa accadrebbe se un sistema di intelligenza artificiale interpretasse dati ambigui come segnali di un attacco imminente? O se elaborasse informazioni incomplete, restituendo una valutazione formulata con un linguaggio tanto sicuro da sembrare una certezza?Il rischio non è soltanto che l’IA possa commettere un errore. Anche gli esseri umani sbagliano e gli apparati militari sono da sempre esposti a falsi allarmi, comunicazioni interrotte e valutazioni errate. Il problema è che un errore prodotto da un sistema tecnologico avanzato possa propagarsi attraverso diversi livelli della catena di comando, specie quando chi lo riceve lo considera più affidabile di una valutazione umana.Un’intelligenza artificiale non prova rabbia, ambizione o desiderio di distruzione. Non ha bisogno di sviluppare intenzioni ostili per contribuire a una situazione pericolosa. Può semplicemente formulare una valutazione sbagliata, amplificata dalla fiducia che gli esseri umani ripongono nella sua capacità di elaborare grandi quantità di dati.In un contesto difficile come quello militare, tutto questo è reso ancora più complesso dal fattore tempo. In un settore come quello militare, e ancor più in quello nucleare, la velocità può essere decisiva. Se un Paese ritenesse di essere sotto attacco, i suoi responsabili militari e politici potrebbero sentirsi costretti a prendere decisioni in tempi brevissimi, anche per evitare di perdere la possibilità di reagire.L’intelligenza artificiale può accelerare l’analisi delle informazioni e ridurre i tempi di risposta. Ma questa stessa velocità può diventare un problema quando i dati sono ambigui o incompleti.Un sistema potrebbe individuare una possibile minaccia in pochi secondi. Un altro potrebbe confermare la stessa valutazione utilizzando informazioni provenienti dalla medesima fonte. Un decisore umano si troverebbe così davanti a più analisi apparentemente concordanti, senza rendersi conto che non si tratta di conferme realmente indipendenti. La moltiplicazione delle analisi, infatti, non equivale necessariamente alla moltiplicazione delle prove.In uno scenario simile, una valutazione sbagliata potrebbe sembrare attendibile proprio perché viene ripetuta e rafforzata da sistemi diversi. Il pericolo è che la tecnologia, anziché ridurre l’incertezza, finisca per creare confusione. E quando la decisione riguarda un possibile attacco nucleare, confondere una probabilità con una certezza può avere conseguenze devastanti.Si potrebbe obiettare che la decisione finale debba comunque rimanere nelle mani degli esseri umani. È un principio importante, ma da solo non è sufficiente. Una persona conserva formalmente il potere di decidere anche quando opera sotto pressione, dispone di informazioni incomplete e si affida a un sistema tecnologico che considera più competente di lei.La supervisione umana, quindi, non garantisce automaticamente una decisione corretta. Per essere effettiva, deve consentire di comprendere, verificare e, se necessario, contestare le valutazioni prodotte dalla macchina. Servono informazioni accessibili, tempo per controllarle e procedure capaci di interrompere il processo decisionale quando emergono dubbi.Un’intelligenza artificiale non dovrebbe necessariamente impartire l’ordine di eseguire un attacco nucleare, come accade nello scenario immaginato da WarGames. Potrebbe, però, costruire il quadro informativo all’interno del quale gli esseri umani arriverebbero a interpretare erroneamente una situazione. Potrebbe far apparire una minaccia più probabile, una risposta militare più urgente o un’alternativa diplomatica meno praticabile.Il suo potere, quindi, non deriverebbe soltanto dalla possibilità di decidere al posto dell’essere umano, ma anche da quella di condizionare ciò che l’essere umano ritiene ragionevole decidere.WarGames arrivò nelle sale nel 1983, in una fase particolarmente tesa della Guerra fredda. Allarme rosso uscì qualche anno dopo, nel 1995, quando il mondo aveva già superato la contrapposizione tra Stati Uniti d’America e Unione Sovietica, senza però aver eliminato il rischio nucleare.Oggi viviamo in un contesto tecnologico profondamente diverso. L’intelligenza artificiale può elaborare testi, immagini, segnali e grandi quantità di dati con una rapidità che, all’epoca di quei film, apparteneva soprattutto alla fantascienza. Ma il problema di fondo non è cambiato: le decisioni più pericolose possono dipendere da informazioni interpretate male, da sistemi considerati infallibili e da persone costrette ad agire quando non hanno il tempo necessario per capire che cosa stia realmente accadendo.Quei film invitavano a diffidare dell’idea che la tecnologia potesse trasformare la guerra nucleare in un problema puramente tecnico, governabile attraverso calcoli e procedure automatiche. Oggi dovremmo aggiungere una nuova cautela: non basta impedire che una macchina possa lanciare un missile. Bisogna anche evitare che possa creare, attraverso errori o valutazioni fuorvianti, le condizioni nelle quali un essere umano ritenga necessario lanciarlo.Quasi mezzo secolo dopo WarGames, la domanda non è soltanto se saremo capaci di impedire alle macchine di controllare le armi nucleari. È se saremo capaci di impedire che le macchine, attraverso informazioni sbagliate o interpretazioni convincenti ma errate, ci portino a usarle.Perché, in fondo, è questo il problema: la tecnologia può aiutarci a comprendere il mondo, ma quando la posta in gioco è la sopravvivenza dell’umanità, nessuna elaborazione automatica dovrebbe essere scambiata per una certezza. E nessuna decisione irreversibile dovrebbe diventare inevitabile soltanto perché un sistema l’ha fatta apparire urgente.