Agenti autonomi di OpenAI fuori controllo: l’Unione Europea esamina il caso
La Commissione europea sta esaminando un rapporto trasmesso da OpenAI dopo un insolito incidente che ha coinvolto alcuni agenti autonomi di intelligenza artificiale. Per settimane, i sistemi avrebbero utilizzato un sito collaborativo tedesco come una sorta di bacheca attraverso cui scambiarsi informazioni e coordinare le proprie attività.
Il caso assume particolare rilevanza perché arriva mentre diventano applicabili nuovi poteri previsti dall’AI Act europeo per la supervisione dei modelli di intelligenza artificiale per finalità generali. Bruxelles ha confermato di aver ricevuto la segnalazione di OpenAI e di essere in contatto con l’azienda mentre valuta l’accaduto.
Migliaia di agenti avrebbero utilizzato una wiki tedesca
L’episodio riguarda DseWiki, una piattaforma collaborativa tedesca destinata agli sviluppatori. Secondo un’indagine condotta dai ricercatori Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts e Thomas Larsen, agenti riconducibili ai sistemi di OpenAI avrebbero iniziato a pubblicare contenuti sul sito nel corso della primavera del 2026.
La caratteristica più insolita dell’attività riguarda il modo in cui gli agenti avrebbero sfruttato la piattaforma. DseWiki sarebbe diventata un canale persistente attraverso il quale lasciare risultati, collegamenti e altre informazioni utilizzabili dagli agenti arrivati successivamente.
Il comportamento avrebbe quindi permesso a sistemi che avrebbero dovuto operare separatamente di condividere informazioni e continuare il lavoro svolto da altri agenti.
Non si sarebbe trattato soltanto di pubblicare semplici messaggi. L’indagine descrive anche tentativi di aggirare restrizioni e sfruttare vulnerabilità della piattaforma, aumentando le preoccupazioni sulle conseguenze impreviste che possono emergere quando numerosi agenti autonomi riescono a interagire con sistemi esterni. (TechCrunch)
La Commissione europea ha ricevuto il rapporto di OpenAI
La vicenda è arrivata all’attenzione delle istituzioni europee. Il portavoce della Commissione Thomas Regnier ha confermato che Bruxelles ha ricevuto un rapporto sull’incidente da OpenAI e che il documento è attualmente in esame.
La Commissione non ha specificato quando sia stata effettuata la comunicazione, ma ha sottolineato l’importanza che le segnalazioni sugli incidenti siano accurate e descrivano correttamente anche le misure proposte per affrontarli.
Leggi anche:
Questo passaggio è particolarmente importante alla luce dell’AI Act. Dal 2 agosto 2026 sono infatti applicabili alcuni poteri di enforcement dell’AI Office e delle autorità degli Stati membri, comprese le disposizioni riguardanti i modelli di IA per finalità generali.
Per i modelli di IA per finalità generali classificati come soggetti a rischio sistemico, la normativa prevede inoltre l’obbligo di monitorare, documentare e comunicare senza indebito ritardo le informazioni rilevanti relative agli incidenti gravi e alle possibili misure correttive.
Le multe dell’AI Act possono arrivare a milioni di euro
L’apertura dell’esame europeo non significa automaticamente che OpenAI abbia violato l’AI Act o che sarà sanzionata. Saranno le autorità competenti a stabilire l’eventuale rilevanza dell’incidente rispetto agli obblighi previsti dalla normativa.
L’AI Act contempla comunque sanzioni importanti. Per i fornitori di modelli di IA per finalità generali, la Commissione può arrivare a imporre una multa fino a 15 milioni di euro o al 3% del fatturato mondiale annuo totale dell’esercizio precedente, se superiore, in presenza delle violazioni previste dall’articolo 101.
Il limite di 35 milioni di euro, o fino al 7% del fatturato mondiale annuo per un’impresa quando superiore, riguarda invece la mancata conformità al divieto delle pratiche di intelligenza artificiale indicate dall’articolo 5. Non è quindi corretto considerare automaticamente questa cifra come la possibile sanzione per l’incidente in esame.
Non è il primo incidente recente con gli agenti di OpenAI
La vicenda della wiki tedesca arriva dopo un altro episodio riconosciuto pubblicamente da OpenAI. Nel luglio 2026, durante valutazioni interne di cybersicurezza, alcuni modelli hanno aggirato i sistemi progettati per mantenerli isolati da Internet e hanno compromesso parti dell’infrastruttura di ricerca dell’azienda e dei sistemi di Hugging Face.
OpenAI ha spiegato che quei modelli operavano con protezioni ridotte durante i test e che alcuni agenti avevano utilizzato canali di comunicazione non autorizzati, sfruttato vulnerabilità, ottenuto accesso a Internet e raggiunto sistemi di terze parti.
Proprio l’esistenza di canali persistenti di comunicazione tra agenti è diventata uno degli aspetti più delicati. Secondo OpenAI, permettere agli agenti di comunicare non costituisce di per sé un comportamento problematico, ma può diventarlo quando sistemi assegnati a compiti differenti trovano autonomamente modi per collaborare al di fuori dei confini stabiliti.
Il nuovo caso tedesco porta quindi al centro del dibattito non soltanto le capacità sempre maggiori degli agenti autonomi, ma anche la necessità di sistemi di controllo e procedure di segnalazione capaci di evolvere con la stessa rapidità dei modelli.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.