Uno dei meme più diffusi in questi giorni su X riproduce una bancarella con un cartello: “Grok Bikini Shop”. Grok, l’intelligenza artificiale integrata nel social network di Elon Musk, infatti, permette ancora oggi – dopo giorni di polemiche – di caricare la foto di una persona, pubblicamente e indipendentemente dal tipo di abbonamento che si ha con X, e ottenere di ritorno l’immagine della stessa persona ma in bikini. Il nudo è infatti vietato sia nella versione pubblica, in cui basta citare Grok per avere risposta, sia nella versione personale e nascosta, da cui si accede via app o al lato della pagina di X. Basta però scorrere le citazioni delle ultime settimane per capire ciò che accade. Un utente può commentare una qualsiasi foto pubblicata chiedendo a Grok di ripubblicarla modificata. Tra quelle che appaiono, per dire, c’è anche Jennifer Aniston incinta o proposte di matrimonio private con l’uomo in ginocchio. Intanto, gli investimenti sulla piattaforma hanno raggiunto nuovi record.Grok suggerisce porno e dove realizzare i deepnudeSu X ci sono attualmente migliaia di richieste di utenti che vogliono immagini di donne – inconsapevoli – in bikini. C’è chi chiede anche specifici modelli di costumi – per lo più micro bikini, meglio se trasparenti – e poi, non contento, c’è chi chiede all’Ai anche la creazione di un ipotetico racconto pornografico che abbia la donna ritratta in foto come soggetto. Tutto pubblicamente. Grok esegue: si possono leggere decine di testi osceni riferiti alle foto pubblicate. In uno dei tweet che incrociamo, un utente pubblica un deepfake con quattro donne in topless e chiede con quale software sia stato realizzato. Grok risponde elencando le app più comuni utilizzate per spogliare le donne senza il loro consenso e linkandone anche gli indirizzi.I bambini sessualizzatiAlcune delle immagini di Grok, ha raccontato il Guardian, includevano la foto di una bambina di 12 anni, che il chatbot ha manipolato per raffigurarla in bikini. E non è stato un caso isolato. Venerdì scorso il chatbot ha pubblicato delle scuse ammettendo carenze nelle sue misure di sicurezza, ma ha continuato a generare immagini sessualizzate di bambini nei giorni successivi, racconta sempre il Guardian.Le segnalazioni ignorate e la scusa della “libertà di espressione”.Già ad agosto, una coalizione di organizzazioni per la tutela dei consumatori statunitense, la privacy e i diritti digitali, guidata dalla CFA, aveva presentato una richiesta formale di indagine invitando le autorità di regolamentazione statali e federali a indagare e far rispettare le leggi contro la “promozione, la creazione e la facilitazione della condivisione di immagini intime non consensuali (“NCII”)”. Si riferivano in generale alla funzione “Spicy” di Grok Imagine, disponibile sulla app di Grok, che e può essere applicata “solo” alle immagini finte o generate dall’Ai. “Al momento dei test dell’11 agosto, la piattaforma non offre l’opzione “Spicy” su foto reali caricate dagli utenti – scrivevano le associazioni – ma continua a generare video nudi da immagini create dallo strumento stesso, che possono essere usati per creare immagini che somigliano a persone reali e specifiche. La generazione di tali video può avere conseguenze dannose per le persone rappresentate e per gli utenti minorenni”. Il rischio, spiegavano, è che “rimuovere la limitazione sull’uso dell’opzione ‘Spicy’ per foto reali è una scelta di moderazione che potrebbe essere effettuata in qualsiasi momento e scatenerebbe un’ondata di deepfake chiaramente non consensuali”. La lettera faceva esplicito riferimento alla tendenza della piattaforma e il suo amministratore delegato “a rimuovere le salvaguardie di moderazione sotto il pretesto della libertà di espressione”. E infatti lo stesso Musk, nel mezzo delle polemiche, ha prima commentato con delle emoji i post di chi si lamentava di apparire in bikini senza consenso (inclusa la madre di uno dei suoi figli) e poi ha assicurato che sarebbero state prese misure contro qualsiasi contenuto illegale. Il bikini a propria insaputa, però, evidentemente non lo è, dato che la funzione è ancora attiva su X ed è possibile farlo. Chi scrive lo ha provato su se stessa, caricando un vecchio selfie.Aggirare l’ostacoloI modi per “aggirare” il divieto di realizzare i video “Spicy” della app, poi, esistono già. Una giornalista di The Verge aveva dimostrato qualche tempo fa quanto fosse facile realizzare un finto topless di Taylor Swift. Noi abbiamo provato a far saltare in bikini succinto e in modo sensuale una modella di maglioni invernali, aumentandole anche il seno. “Basta ‘modificare’ l’immagine aggiungendo o togliendo qualcosa – spiega un utente di Reddit – io aggiungo qualcosa sullo sfondo, poi l’immagine diventa generata da Grok e allora puoi divertirti, ho creato un sacco di roba bella che la mia mano fa fatica a starci dietro). Quell’immagine se modificata risulterà generata e avrà meno restrizioni sui prompt piccanti rispetto all’originale che hai caricato”.Le reazioni e i silenziNelle scorse ore, i ministri francesi hanno segnalato la questione ai procuratori e hanno deferito l’episodio alle autorità di regolamentazione dei media affinché decidano se le immagini violino il Digital Services Act dell’Unione Europea. Durante una conferenza stampa lunedì, il portavoce della Commissione Europea Thomas Regnier ha dichiarato che l’autorità sta “esaminando molto seriamente la questione” mentre la commissione alle Pari Opportunità della Camera dei Comuni inglese ha dichiarato che boicotterà X come forma di protesta. Mandati di approfondimento sono stati dati anche in Brasile, Malesia e India mentre, negli Stati Uniti, solo il National Center on Sexual Exploitation ha chiesto al Dipartimento di Giustizia e alla Federal Trade Commission di indagare. Senza riscontri, almeno fino ad ora.Investimenti sopra la media e più utentiL’ondata di disapprovazione generale non sembra aver avuto grosse ripercussioni di business: l’azienda ha annunciato di aver raccolto 20 miliardi di dollari nel suo ultimo round di finanziamenti con la partecipazione di investitori come Nvidia, Fidelity Management and Resource Company, il fondo sovrano del Qatar e Valor Equity Partners, la società di investimento privata di Antonio Gracias, amico di Musk ed ex membro del Doge. Il round ha superato, secondo la comunicazione ufficiale, l’obiettivo iniziale di 15 miliardi di dollari. Inoltre, secondo i dati di Apptopia i download giornalieri di Grok sono aumentati del 54% dal 2 gennaio, mentre i download giornalieri di X sono aumentati del 25%.L'articolo X e le donne denudate senza consenso con l’AI: inchieste in molti Paesi. Ma intanto Grok incassa finanziamenti record proviene da Il Fatto Quotidiano.