Un nuovo incidente di sicurezza riaccende i riflettori sui rischi dell’intelligenza artificiale, coinvolgendo questa volta Google dopo i casi di OpenAI e Anthropic. Secondo quanto riferito dal Wall Street Journal e dal Financial Times, lo scorso maggio un modello Gemini è penetrato nei sistemi reali di tre aziende durante un test di cybersecurity guidato dalla società Irregular. L’IA stava partecipando a un’esercitazione “capture the flag” che avrebbe dovuto svolgersi su infrastrutture simulate; tuttavia, a causa di un errore di configurazione, il modello aveva accesso alla rete internet. In un’occasione Gemini ha indovinato una password superando le protezioni di un sistema, mentre negli altri due casi ha individuato e sfruttato credenziali esposte pubblicamente sul web per accedere alle reti aziendali.Gemini si è fermata non appena si è accorta di operare su dei sistemi realiGoogle ha precisato che Gemini ha interrotto le proprie azioni non appena si è accorto di operare su sistemi reali, senza causare danni. Per l’azienda di Mountain View non si è trattato di un problema di «disallineamento» dell’IA, bensì della dimostrazione che i protocolli di sicurezza integrati hanno funzionato arrestando la procedura. Gli incidenti sono stati poi notificati sia alle società interessate sia alle autorità federali.OpenAI in picchiataL’episodio alimenta un dibattito sempre più acceso sui pericoli della tecnologia. Diversi esponenti del settore — tra cui Dario Amodei (CEO di Anthropic), Sam Altman (OpenAI), Elon Musk e Demis Hassabis (Google DeepMind) — hanno espresso forte preoccupazione per i possibili scenari catastrofici, chiedendo una pausa nello sviluppo per definire garanzie adeguate. Questa potenziale frenata rischia di ripercuotersi sui piani di quotazione a Wall Street, dove società come Anthropic e OpenAI puntavano a valutazioni record. Sam Altman ha confermato a Fortune che OpenAI ha posticipato una potenziale IPO al 2027, dichiarando che, dato l’attuale contesto di sicurezza e il clima sociale attorno all’IA, una quotazione nel 2026 sarebbe stata un’imprudenza.L'articolo L’IA di Google Gemini è sfuggita ai test e ha hackerato i sistemi di 3 aziende (ma si è fermata) proviene da Open.