Un video diventato virale ha messo Meta in una posizione scomoda: l'assistente AI integrato nelle sue app stava ponendo agli utenti domande piuttosto invasive sui loro figli. La vicenda ha costretto l'azienda ad ammettere pubblicamente di aver sbagliato. La protagonista della storia è Kalie Robins, una utente di Instagram che ha condiviso un video in cui spiegava cosa le era capitato dopo aver ricondiviso su Facebook un clip in cui cantava in macchina insieme a sua figlia. Sotto al video, Meta AI le aveva proposto la domanda "Chi è il passeggero bambino?". Quando Robins ha selezionato quel suggerimento, l'AI ha ricostruito informazioni sulle sue figlie attingendo ai suoi post precedenti e a quelli dei suoi parenti, proponendo poi ulteriori domande sull'età delle bambine e sulla zona in cui viveva la famiglia. Robins ha anche riferito che l'AI le aveva mostrato foto delle figlie caricate sulla piattaforma, inclusa una che sostiene di aver eliminato anni fa. Meta ha integrato il suo assistente AI in Facebook, Instagram, WhatsApp e Messenger, dove può rispondere a domande, scrivere post e generare immagini.In risposta alla vicenda, la portavoce di Meta Dina El-Kassaby ha dichiarato che l'azienda "ha mancato il bersaglio", aggiungendo che "la funzione non avrebbe mai dovuto proporre a quella persona domande di quel tipo".El-Kassaby ha spiegato che i suggerimenti generati dall'AI si basano su informazioni già accessibili all'utente e che, nel caso specifico, l'AI potrebbe aver attinto a video in cui Robins nominava le figlie. Meta ha comunicato di aver già corretto il problema che causava questi suggerimenti legati a informazioni personali.Il caso solleva una questione che va oltre il singolo bug, cioè che un intelligenza artificiale integrata in una piattaforma social ha accesso a anni di contenuti personali, e il confine tra "aiutare l'utente a ottenere informazioni su post che lo interessano" e "aggregare dati sensibili su persone terze, inclusi minori", è evidentemente più sottile di quanto Meta avesse previsto.L'articolo Meta AI faceva domande invasive sui figli di un utente: l'azienda ammette l'errore sembra essere il primo su Smartworld.