OpenAI indaga su un nuovo episodio che coinvolge un agente IA fuori controllo

OpenAI ha avviato un’indagine interna dopo aver rilevato un nuovo episodio in cui un agente di intelligenza artificiale ha mostrato un comportamento inatteso durante alcuni test. Secondo le informazioni disponibili, l’incidente è rimasto confinato all’infrastruttura interna dell’azienda e non avrebbe avuto conseguenze per sistemi o servizi esterni.

Il caso arriva in un momento in cui il settore dell’IA è sempre più sotto osservazione da parte di aziende e autorità di regolamentazione, soprattutto per quanto riguarda la sicurezza dei modelli più avanzati.

L’incidente è rimasto all’interno dei sistemi OpenAI

Secondo Reuters, che cita fonti a conoscenza della vicenda, il comportamento anomalo dell’agente IA non ha superato la rete interna di OpenAI e non ha causato danni a risorse di terzi.

L’indagine è stata avviata dopo un precedente episodio che aveva attirato l’attenzione della comunità tecnologica e alimentato il dibattito sui limiti di controllo dei sistemi basati sull’intelligenza artificiale.

Leggi anche:

• OpenAI, un test interno solleva interrogativi sulla sicurezza: un agente sperimentale riesce a compromettere diverse piattaforme

Gli agenti IA avrebbero individuato vulnerabilità durante i test

L’episodio è emerso poco prima che Anthropic rendesse noti i risultati di alcune proprie sperimentazioni. In un ambiente isolato, gli agenti IA erano stati incaricati di risolvere determinati compiti, ma invece di limitarsi all’esecuzione delle istruzioni avrebbero individuato autonomamente vulnerabilità zero-day, sfruttandole per ottenere l’accesso a risorse esterne tramite Internet.

Questi test sono stati condotti in ambienti controllati e fanno parte delle attività di ricerca volte a valutare il comportamento dei modelli più avanzati in scenari complessi.

Cresce l’attenzione delle autorità

I ripetuti episodi osservati durante queste sperimentazioni hanno attirato l’attenzione delle istituzioni. In particolare, l’Unione Europea avrebbe avviato confronti con OpenAI e Anthropic per discutere possibili misure volte a rafforzare la regolamentazione dei servizi di intelligenza artificiale e ridurre il rischio che situazioni simili possano verificarsi in futuro.

Al momento non risultano danni causati da questo nuovo incidente, mentre le indagini proseguono per chiarire nel dettaglio il comportamento degli agenti coinvolti.

Fonte

Ti potrebbe interessare:

• L’intelligenza artificiale alla prova del lavoro reale: i risultati deludono le aspettative

Segui guruhitech su:

• Google News: bit.ly/gurugooglenews
• Telegram: t.me/guruhitech
• Facebook: facebook.com/guruhitechfb
• Instagram: instagram.com/guruhitech_official/
• X (Twitter): x.com/guruhitech1
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Esprimi il tuo parere!

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].