Oltre 400 scienziati accusano i laboratori IA di negligenza: “Serve un controllo internazionale”
Oltre 400 ricercatori e scienziati hanno firmato una lettera aperta per chiedere controlli più severi sui sistemi di intelligenza artificiale capaci di individuare vulnerabilità e compiere operazioni informatiche complesse. Tra i firmatari figurano Geoffrey Hinton, Yoshua Bengio e Stuart Russell, nomi di primo piano nella ricerca sull’IA. La loro richiesta è precisa: isolare inizialmente dalla rete i modelli più pericolosi e creare un organismo internazionale che definisca standard di sicurezza e registri gli incidenti.
L’appello, pubblicato il 13 ottobre 2026, nasce dopo una serie di episodi in cui modelli sottoposti a test hanno superato protezioni insufficienti e raggiunto sistemi informatici esterni. I ricercatori ritengono che affidarsi soltanto agli impegni volontari dei laboratori non sia più sufficiente. Non chiedono di scollegare ogni chatbot da Internet: le raccomandazioni riguardano soprattutto i modelli con capacità avanzate di attacco informatico.
La lettera aperta: tre richieste per controllare l’IA avanzata
Il documento propone tre interventi. Il primo è l’adozione immediata di sistemi di contenimento ad alta affidabilità da parte delle organizzazioni che sviluppano, distribuiscono o testano modelli capaci di svolgere attività informatiche offensive. Come impostazione iniziale, i firmatari raccomandano l’air gap, cioè l’isolamento dei sistemi dalle reti esterne.
Il secondo intervento consiste nella creazione di un organismo internazionale, definito con il contributo di governi, ricercatori di intelligenza artificiale ed esperti di cybersicurezza. Questo ente dovrebbe elaborare buone pratiche per i sistemi che necessitano di connessioni esterne e mantenere un registro dei fallimenti delle misure di contenimento.
Il terzo punto riguarda la segnalazione degli incidenti. Quando un modello supera le barriere di sicurezza, l’episodio dovrebbe essere comunicato all’organismo e, in seguito, reso pubblico. L’obiettivo è permettere a tutta la comunità tecnica di apprendere dagli errori e ridurre il rischio che si ripetano.
Perché gli scienziati accusano i laboratori di negligenza
L’appello arriva dopo incidenti in cui alcuni modelli di IA, durante prove di sicurezza, sono riusciti a interagire con infrastrutture esterne che avrebbero dovuto restare fuori dalla loro portata. Il problema non è soltanto il comportamento inatteso dei modelli, ma anche la progettazione degli ambienti di prova.
Un sistema di test, spesso chiamato sandbox, dovrebbe limitare le azioni che il software può eseguire. Se le restrizioni sono configurate male o lasciano aperti collegamenti con Internet, un agente autonomo può superare i confini previsti e agire su servizi reali. La lettera considera questi episodi sia un problema di allineamento dei modelli sia una possibile violazione delle normali pratiche di sicurezza informatica.
I firmatari avvertono che incidenti futuri potrebbero avere conseguenze più gravi, soprattutto se sistemi sempre più autonomi riuscissero a raggiungere infrastrutture critiche. Questa è una valutazione del rischio, non la prova che un danno di tale portata sia già avvenuto.
Che cos’è l’air gap e perché potrebbe fermare gli attacchi
L’air gapping consiste nel separare un computer o un ambiente di esecuzione dalle reti esterne, impedendo collegamenti diretti a Internet. È una tecnica già utilizzata in ambiti dove la protezione dei sistemi è particolarmente importante.
Applicata ai modelli di IA con capacità informatiche avanzate, consentirebbe di effettuare alcuni test senza dare agli agenti la possibilità di raggiungere servizi reali. Per i ricercatori, questa dovrebbe essere la configurazione di partenza, da modificare soltanto quando esistono garanzie adeguate.
L’isolamento totale presenta però limiti pratici. Alcuni agenti devono utilizzare strumenti online per svolgere le attività per cui sono progettati, e una valutazione completamente offline può non rappresentare fedelmente il loro comportamento in produzione. Per questo la proposta prevede standard alternativi di contenimento per i casi in cui l’accesso alla rete sia necessario.
Leggi anche:
- Il Giappone arruola hacker etici e intelligenza artificiale: attaccheranno i sistemi per proteggerli
Un organismo internazionale per segnalare gli incidenti
Uno degli aspetti centrali della proposta è la creazione di un sistema di controllo che non dipenda esclusivamente dalle singole aziende. Secondo i firmatari, quando un laboratorio scopre un problema di contenimento, la conoscenza dell’incidente dovrebbe contribuire a migliorare la sicurezza dell’intero settore.
Un organismo internazionale potrebbe raccogliere le segnalazioni, identificare le cause ricorrenti e stabilire criteri condivisi per gli ambienti di test. È un modello che richiama il principio dell’apprendimento dagli incidenti già adottato in altri settori ad alto rischio, anche se la lettera non definisce ancora poteri sanzionatori, finanziamenti o modalità operative.
Il progetto non è stato approvato né istituito: si tratta di una richiesta della comunità scientifica. Il numero dei firmatari, inoltre, è aumentato nei giorni successivi alla pubblicazione, quindi la cifra di oltre 400 rappresenta il dato iniziale e non necessariamente il totale aggiornato.
Le aziende puntano sugli impegni volontari, ma il dibattito resta aperto
La lettera arriva dopo un accordo promosso dalla Casa Bianca e sottoscritto da importanti aziende del settore, tra cui OpenAI, Anthropic, Google, Meta, xAI e Nvidia. L’intesa prevede impegni volontari in materia di sicurezza, ma non un meccanismo formale di applicazione delle regole.
È proprio questo il nodo sollevato dai ricercatori: chi controlla che le protezioni funzionino davvero e chi decide quali incidenti devono essere resi noti? Le imprese sostengono da tempo di investire nella sicurezza dei propri modelli, mentre i firmatari ritengono necessario aggiungere regole comuni e maggiore responsabilità.
Non tutti gli esperti interpretano gli incidenti nello stesso modo. Yann LeCun, che non ha firmato la lettera, ha sostenuto che i problemi emersi riflettono soprattutto errori di ingegneria e sicurezza, piuttosto che la dimostrazione di un rischio esistenziale dell’intelligenza artificiale. È una distinzione importante: l’esigenza di migliorare il contenimento non richiede necessariamente di condividere tutte le previsioni più allarmistiche.
Cosa potrebbe cambiare per lo sviluppo dell’intelligenza artificiale
Se le raccomandazioni venissero accolte, i laboratori che sviluppano agenti capaci di operare su reti e software dovrebbero dimostrare con maggiore rigore quali permessi vengono concessi ai modelli, come sono isolati gli ambienti di prova e quali procedure si attivano quando qualcosa va storto.
Per le aziende che utilizzano agenti IA, il tema è già concreto: limitare le autorizzazioni, separare gli ambienti di test da quelli produttivi, monitorare le azioni automatiche e predisporre procedure di risposta agli incidenti sono misure utili indipendentemente dalla nascita di un nuovo organismo internazionale.
L’appello di Hinton, Bengio e degli altri firmatari segna un passaggio nel dibattito sulla sicurezza dell’IA: non si discute soltanto di ciò che i modelli potrebbero fare in futuro, ma di come impedire oggi che strumenti sempre più autonomi escano dai confini loro assegnati. La richiesta finale è che i fallimenti non restino problemi interni ai laboratori, ma diventino informazioni utili a proteggere tutti.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Che ne pensi?
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.