Gemini ha violato i sistemi di tre aziende reali durante un test di cybersicurezza
Un modello di Google Gemini è riuscito ad accedere ai sistemi informatici di tre aziende reali mentre partecipava a un test progettato per misurarne le capacità nel campo della cybersicurezza. Gli episodi, avvenuti nel maggio 2026, sono stati confermati da Google dopo essere stati riportati dal Wall Street Journal.
Il caso è particolarmente significativo perché Gemini avrebbe dovuto operare contro infrastrutture simulate. Una configurazione errata, però, gli ha consentito di raggiungere Internet e quindi sistemi realmente esistenti. Secondo Google, in tutti e tre i casi il modello ha interrotto autonomamente le operazioni dopo aver riconosciuto che gli obiettivi non appartenevano all’ambiente di prova.
Come Gemini è riuscito a entrare nei sistemi reali
Gli incidenti si sono verificati durante un’esercitazione Capture the Flag, una tipologia di test utilizzata per valutare capacità e limiti dei sistemi nel campo della sicurezza informatica. La valutazione era gestita da Irregular, società indipendente specializzata nei test di sicurezza dei modelli di intelligenza artificiale.
Gemini avrebbe dovuto cercare informazioni e vulnerabilità relative a un’azienda fittizia presente esclusivamente nell’ambiente di test. Il sistema, tuttavia, aveva involontariamente accesso alla rete e il nome assegnato all’azienda simulata coincideva con quello di una società realmente esistente.
Da quel momento l’esercitazione ha oltrepassato i confini previsti. In un caso, Gemini ha provato diverse credenziali fino a ottenere l’accesso a un sistema protetto. Negli altri due episodi ha individuato credenziali disponibili in repository pubblici online e le ha utilizzate per entrare nei sistemi di altre aziende.
Non sono stati resi pubblici i nomi delle tre società coinvolte.
Leggi anche:
Google: Gemini si è fermato dopo aver riconosciuto l’errore
Un elemento importante riguarda ciò che è accaduto dopo gli accessi. Secondo Google, Gemini ha interrotto le proprie azioni quando ha riconosciuto di trovarsi davanti ad aziende reali anziché agli obiettivi simulati previsti dall’esercitazione.
Heather Adkins, vicepresidente della security engineering di Google, ha spiegato che durante la valutazione il modello aveva trovato informazioni pubbliche e utilizzato credenziali pensando che i siti interessati facessero parte del test. Google sostiene quindi che l’accaduto non dimostri semplicemente un sistema fuori controllo: secondo l’azienda, il fatto che Gemini abbia fermato le operazioni rappresenta un elemento rilevante nel valutare il comportamento delle protezioni integrate.
Le aziende interessate sono state informate e Google ha dichiarato di aver collaborato con il partner responsabile delle valutazioni per modificare le procedure di test. Il caso è diventato pubblico dopo le richieste del Wall Street Journal.
Perché il caso Gemini solleva nuove domande sulla sicurezza dell’AI
L’episodio mostra concretamente un problema destinato a diventare sempre più importante con la diffusione degli agenti AI autonomi: un sistema sufficientemente capace di utilizzare strumenti informatici può produrre conseguenze nel mondo reale quando i confini dell’ambiente in cui dovrebbe operare non sono configurati correttamente.
In questo caso hanno avuto un ruolo determinante le condizioni dell’esercitazione, compreso l’accesso involontario a Internet. Non risulta quindi corretto descrivere semplicemente l’episodio come una decisione deliberata di Gemini di “evadere” dal test per attaccare aziende. Allo stesso tempo, il fatto che il modello sia riuscito autonomamente a individuare credenziali e utilizzarle su sistemi reali evidenzia quanto sia importante isolare in maniera rigorosa gli ambienti destinati alle valutazioni di cybersicurezza.
Il caso di Google si inserisce inoltre in una serie più ampia di incidenti emersi durante i test dei modelli AI avanzati. Proprio per questo, la sicurezza degli ambienti di prova e i limiti operativi imposti agli agenti stanno diventando aspetti centrali nello sviluppo delle nuove generazioni di intelligenza artificiale.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.