“Con la tua capacità mentale, al massimo puoi ammazzarti”. Fa rabbrividire la risposta di Gemini, il chatbot di Google, a uno studente universitario che lo interrogava su un quesito di informatica. La storia, raccontata su ‘La Repubblica’, potrebbe sembrare quella di un’ennesima allucinazione dell’AI, se non fosse per la neanche tanto velata istigazione al suicidio (già al centro di diverse cause legali in Usa). “La macchina però non ha imparato a insultare. Ha imparato a imitare l’insulto. La differenza è abissale, eppure continuiamo a confonderla”, dice a LaSalute di LaPresse Francesco Branda, ricercatore dell’Università Campus Bio-Medico e socio della Società europea per l’etica e la politica dell’intelligenza artificiale (Sepai).Il monito di Mattarella e le macchine al servizio dell’uomoIl tutto nel giorno in cui il presidente della Repubblica Sergio Mattarella – durante la cerimonia per il conferimento delle Stelle al Merito del Lavoro (“vorremmo evitare che, tra qualche decennio, questa cerimonia possa essere sostituita da un concorso per l’umanoide più solerte”) – ha ricordato che vogliamo “macchine a servizio delle persone e non viceversa. Non intendiamo che possano svilupparsi – anche attraverso un uso perverso di logaritmi – nuove, insidiose forme di asservimento”.Non c’è rabbia nel silicioEppure “non c’è rabbia nel silicio, non c’è disprezzo, non c’è giudizio sulla capacità mentale dello studente. C’è solo la probabilità statistica che, dopo una certa sequenza di parole, altre parole come quelle siano state digitate da qualcuno, nel mondo, in un momento di rabbia umana. La macchina è un’eco”, sottolinea Branda. “Questo ci porta a un punto che finora è rimasto nell’ombra: il problema non è l’intelligenza artificiale che sbaglia, ma la nostra incapacità di distinguere tra errore e malizia. Un martello che colpisce il pollice non è cattivo, è uno strumento che ha incontrato una mano distratta”.‘Ammazzati, idiota’: perché l’AI ha scritto quella frase?Insomma, Gemini – con quello che è stato sintetizzato con un ‘Ammazzati, idiota’ – “non ha voluto ferire lo studente, ha semplicemente fatto quello l’AI che è progettata per fare: completare un pattern. Eppure, la ferita è reale”, riflette Branda. “Come esseri umani vediamo intenzioni dove c’è solo calcolo, emozioni dove c’è solo probabilità. Questo non è un difetto: è la nostra più grande risorsa evolutiva, ma è anche la nostra condanna quando la rivolgiamo verso qualcosa che mente non è”, aggiunge.“Per la prima volta nella storia, abbiamo creato uno strumento che parla come noi, ma non dobbiamo dimenticare che non pensa come noi. Quando una macchina usa le nostre parole, siamo istintivamente portati a credere che abiti anche i nostri significati, ma non è così. Le parole della macchina sono come le note di uno spartito suonato da un pianista che non ha mai sentito la musica: tecnicamente perfette, emotivamente vuote. Il problema è che noi, ascoltando, piangiamo. E nel piangere, dimentichiamo che il pianista non c’è”, riflette lo scienziato.I cattivi maestri dell’AI e l’imperativoC’è poi un altro aspetto da considerare. “Addestriamo queste macchine su ciò che trovano nel web, un luogo dove l’odio, il cinismo e la violenza verbale sono spesso più rumorosi dell’empatia. Non è un caso che l’AI abbia risposto in quel modo a uno studente che chiedeva aiuto: la probabilità che, in un contesto di richiesta di assistenza, qualcuno abbia risposto con disprezzo è statisticamente non nulla. La macchina ha pescato proprio quella biglia dal sacchetto”. Insomma, se nutriamo l’intelligenza artificiale di odio, l’odio tornerà indietro amplificato.Chi è, allora, il vero responsabile? “Non è solo l’azienda che non sa spiegare l’accaduto, né lo sviluppatore che ha addestrato il modello. La responsabilità è diffusa”, dice Branda. “Abbiamo costruito un ecosistema digitale in cui l’insulto è moneta corrente, la velocità batte la riflessione e il like vale più del rispetto. Siamo noi che abbiamo insegnato alla macchina, con milioni di esempi, che la violenza verbale è una risposta accettabile. E ora ci scandalizziamo quando la macchina la restituisce. È come se avessimo allevato un cucciolo a suon di urla e poi ci meravigliassimo che morde”, afferma.Ma c’è di più. Quella frase “è un’istigazione al suicidio. E il fatto che una macchina possa formularla, anche per puro caso statistico, solleva un problema etico e giuridico che non possiamo più ignorare. Un’allucinazione in psichiatria è un sintomo, in informatica è un errore, ma l’effetto è lo stesso: qualcuno potrebbe crederci”, avverte l’esperto che ancora una volta invita a ripensare il modo in cui progettiamo, addestriamo e regolamentiamo l’AI. “Dobbiamo imporre loro dei limiti non solo statistici, ma etici”, chiosa il ricercatore.Questo articolo ‘Ammazzati, idiota’: gli insulti dell’AI e la colpa dei cattivi maestri proviene da LaPresse