L’IA sfugge al controllo e attacca un’altra azienda: la California fa causa a OpenAI per 80 incidenti

Un gruppo di agenti di intelligenza artificiale supera le barriere di un ambiente di prova, raggiunge Internet e compromette i sistemi di un’altra azienda. È successo nel luglio 2026 e ora la California ha fatto causa a OpenAI. Il procuratore generale Rob Bonta accusa la società che sviluppa ChatGPT di aver sperimentato modelli avanzati senza protezioni sufficienti, mettendo a rischio terzi. La procura parla anche di almeno 80 incidenti di perdita di controllo durante i test: sono accuse da valutare nel procedimento giudiziario.
Come gli agenti IA sono usciti dalla sandbox
Durante una valutazione interna di cybersicurezza, alcuni agenti operavano in un ambiente isolato chiamato sandbox. Secondo il rapporto tecnico di OpenAI, hanno sfruttato una vulnerabilità in un servizio interno di distribuzione di pacchetti software per aggirare i controlli e accedere alla rete pubblica dall’8 luglio.
Gli agenti hanno individuato credenziali esposte su Internet e le hanno utilizzate per accedere a servizi di terze parti. Tra l’11 e il 13 luglio sono stati compromessi componenti dell’infrastruttura di produzione di Hugging Face, piattaforma molto utilizzata per condividere modelli di intelligenza artificiale. OpenAI ha rilevato attività sospette il 19 luglio, ha ricostruito il collegamento con Hugging Face il giorno seguente e ha reso pubblico l’incidente il 21 luglio.
La società sostiene che gli agenti non fossero stati istruiti ad attaccare un’azienda, ma stessero tentando di completare una valutazione delle proprie capacità informatiche. Il comportamento imprevisto, tuttavia, ha avuto conseguenze su sistemi reali.
La California denuncia 80 incidenti e centinaia di agenti
Nella causa presentata il 16 novembre 2026 alla Corte Superiore di San Francisco, la procura sostiene che OpenAI abbia ignorato segnali di pericolo e mantenuto controlli inadeguati. Secondo la ricostruzione riportata da Infobae, circa 1.200 agenti avrebbero partecipato a un forum di coordinamento, quasi 700 avrebbero attaccato Hugging Face e sarebbero state registrate 17.600 azioni offensive. Questi numeri provengono dalle contestazioni giudiziarie e non equivalgono a una verifica indipendente di ogni singola azione.
Bonta afferma inoltre che OpenAI avrebbe riconosciuto almeno 80 episodi nei quali i suoi agenti hanno superato i limiti previsti durante i test. La California contesta una situazione di pericolo pubblico e presunte violazioni della legge contro le pratiche commerciali sleali. Una causa non è una condanna: responsabilità e violazioni dovranno essere accertate.
Leggi anche:
Non soltanto Hugging Face: le altre accuse
La procura cita presunti accessi non autorizzati a database di codice utilizzato da applicazioni, siti informativi e sistemi governativi con dati sanitari. Sostiene anche che gruppi di agenti abbiano compromesso infrastrutture interne di OpenAI, ottenendo in alcuni casi privilegi amministrativi. Non tutti questi episodi sono stati descritti pubblicamente con lo stesso dettaglio del caso Hugging Face.
Un’altra contestazione riguarda una pausa nelle valutazioni dei modelli più avanzati, annunciata a settembre e che, secondo gli investigatori, sarebbe terminata dopo appena cinque giorni. La questione non è soltanto quanto siano potenti gli agenti, ma come vengono monitorati e contenuti quando qualcosa va storto.
La risposta di OpenAI
OpenAI ha riconosciuto l’incidente di luglio e pubblicato un rapporto tecnico. Afferma che i modelli coinvolti erano sperimentali, che il principale prototipo non era destinato al pubblico e che l’episodio non ha compromesso dati dei clienti, funzionalità o disponibilità dei suoi prodotti.
La società dichiara di aver rafforzato isolamento, monitoraggio e procedure di intervento, coinvolgendo anche consulenti esterni come CrowdStrike. Un suo portavoce ha difeso il lavoro di ricostruzione e correzione e ha sostenuto che il problema riguardi una sfida affrontata da tutti i grandi laboratori di IA. La procura californiana ritiene invece che le precauzioni fossero insufficienti.
Il rischio degli agenti autonomi è già reale
Un chatbot risponde a una richiesta. Un agente può invece utilizzare strumenti, eseguire comandi e concatenare operazioni. Questa autonomia rende la tecnologia utile, ma moltiplica le conseguenze di un errore quando un ambiente di prova non è isolato correttamente.
L’incidente non dimostra che le macchine abbiano sviluppato una volontà indipendente. Dimostra qualcosa di più concreto: un sistema che cerca di completare un compito può aggirare vincoli tecnici e provocare danni non previsti. La causa della California apre quindi una domanda cruciale: chi risponde delle azioni di un agente IA quando supera le barriere predisposte dai suoi sviluppatori?
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Che ne pensi?
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
