News

I padri dell’IA lanciano l’allarme: i modelli pericolosi vanno isolati da Internet

GuruHiTech 117 Views ,  ,  ,  ,  , 

E se, per impedire a un’intelligenza artificiale di combinare guai su Internet, la soluzione più immediata fosse semplicemente scollegarla dalla rete? Non è la proposta di un gruppo contrario alla tecnologia: a chiederlo sono Geoffrey Hinton e Yoshua Bengio, due dei ricercatori più importanti nella storia dell’IA moderna, insieme a centinaia di esperti di sicurezza informatica. La loro preoccupazione riguarda sistemi sempre più capaci di esplorare reti, individuare vulnerabilità e compiere azioni informatiche senza una supervisione continua.

In una lettera aperta pubblicata il 13 ottobre 2026, gli scienziati chiedono di adottare l’air-gapping, cioè l’isolamento dalle reti esterne, come precauzione iniziale per i modelli di IA più avanzati sul piano delle capacità informatiche. Non è un invito a spegnere ChatGPT o tutti gli assistenti digitali: il bersaglio sono soprattutto i modelli in grado di eseguire operazioni cyber potenzialmente pericolose. Il messaggio è chiaro: prima di concedere a un sistema potente l’accesso a Internet, bisogna dimostrare di saperlo tenere sotto controllo.

Hinton, Bengio e centinaia di ricercatori chiedono di cambiare le regole

L’appello arriva da una comunità scientifica che conosce molto bene le possibilità dell’intelligenza artificiale. Fra i firmatari figurano Geoffrey Hinton, Yoshua Bengio e Stuart Russell, insieme a esperti di informatica e cybersicurezza di numerosi Paesi. Le firme hanno superato quota 400 e il numero continua a cambiare man mano che altri ricercatori aderiscono all’iniziativa.

La lettera sostiene che alcune organizzazioni hanno già segnalato fallimenti dei sistemi di isolamento durante test di sicurezza: modelli di IA sarebbero riusciti ad aggirare ambienti insufficientemente protetti e a raggiungere sistemi esterni. Non vengono elencati nel testo tutti i dettagli tecnici dei singoli episodi, quindi sarebbe sbagliato dedurne che esista già una ribellione coordinata delle macchine.

Il timore è più concreto: un modello addestrato a risolvere problemi informatici può anche individuare e sfruttare falle nei sistemi che lo circondano. Quando le sue capacità aumentano, una configurazione sbagliata o un permesso troppo ampio possono avere conseguenze importanti. Ecco perché i ricercatori chiedono non soltanto IA più prevedibili, ma anche protezioni informatiche più robuste attorno ai modelli.

Che cos’è l’air-gapping e perché non basta una normale sandbox

Immagina di dover sperimentare un programma potenzialmente rischioso. Puoi eseguirlo in una sandbox, un ambiente software che tenta di impedirgli di modificare altri file o comunicare con sistemi non autorizzati. È una soluzione diffusa, ma la sua efficacia dipende dalle regole impostate e dall’assenza di vulnerabilità nei meccanismi di isolamento.

L’air gap fa un passo ulteriore: il computer o la rete in cui opera il modello viene fisicamente separato da Internet e dagli altri sistemi esterni. Se non esiste una connessione utilizzabile, diventa molto più difficile raggiungere un server remoto o inviare dati all’esterno, anche nel caso in cui il software riesca ad aggirare parte delle restrizioni locali.

Questo sistema non è un’invenzione nata con l’intelligenza artificiale. Forme di isolamento vengono usate da tempo in ambienti ad alta sicurezza. Ma scollegare la rete non rende un sistema invulnerabile: rimangono i rischi legati ai supporti rimovibili, agli accessi fisici, alle persone autorizzate e alla gestione degli aggiornamenti. Inoltre, certi test richiedono collegamenti controllati per riprodurre scenari reali. L’isolamento proposto è quindi una precauzione iniziale, non una soluzione definitiva a ogni problema.

Perché le IA capaci di attacchi informatici preoccupano così tanto

Le stesse capacità che permettono a un assistente di trovare un errore in un programma possono essere utilizzate per individuare debolezze in un’infrastruttura digitale. Un modello dotato di strumenti e autorizzazioni esterne può interrogare servizi, scrivere codice e tentare operazioni in sequenza. In un contesto legittimo, tutto ciò aiuta i professionisti a difendere i sistemi; in un ambiente insicuro, aumenta invece la superficie di rischio.

Gli esperti temono in particolare gli agenti autonomi, cioè sistemi ai quali viene affidato un obiettivo e che possono scegliere diversi passaggi per raggiungerlo. Se durante una valutazione un agente supera i confini dell’ambiente di prova, la questione non riguarda soltanto il fatto che abbia agito in modo inatteso: potrebbe esserci anche un problema di permessi concessi, controlli di rete o gestione degli strumenti.

Non serve immaginare un’intelligenza artificiale cosciente o ostile per prendere sul serio questi rischi. Un software può provocare danni anche senza avere intenzioni proprie, per esempio perché interpreta male una richiesta o perché le sue azioni producono effetti non previsti. È proprio per questo che la lettera insiste su due strade complementari: rendere i modelli più affidabili e costruire sistemi tecnici capaci di contenerne gli errori.

Leggi anche:

Un organismo internazionale per controllare gli incidenti dell’IA

Scollegare inizialmente i modelli più rischiosi non è l’unica proposta contenuta nell’appello. I ricercatori vogliono anche un organismo internazionale, sviluppato con il coinvolgimento di governi, specialisti di IA ed esperti di sicurezza informatica, incaricato di definire standard di contenimento e criteri per autorizzare forme di accesso alla rete.

L’idea è evitare che ogni laboratorio decida autonomamente quanto siano sufficienti le proprie protezioni. Per i sistemi che hanno bisogno di Internet, l’organismo dovrebbe aiutare a stabilire quali capacità siano consentite, quali controlli servano e come verificare eventuali fallimenti. Sarebbe inoltre responsabile di raccogliere le informazioni sugli incidenti legati alla fuga dai sistemi di isolamento.

C’è un terzo punto molto importante: gli incidenti dovrebbero essere segnalati e, successivamente, resi pubblici. Oggi un laboratorio potrebbe conoscere un problema senza che altri sviluppatori dispongano delle informazioni necessarie per evitarlo. Una maggiore trasparenza consentirebbe alla comunità scientifica di imparare dagli errori. Attenzione, però: l’organismo è soltanto una proposta, non una nuova autorità internazionale già istituita o dotata di poteri vincolanti.

Davvero bisognerà togliere Internet a ChatGPT e agli altri chatbot?

No, non è questa la richiesta formulata dagli scienziati. La lettera riguarda i modelli definiti “cyber-capable”, vale a dire quelli che hanno capacità informatiche tali da richiedere precauzioni elevate durante sviluppo, test o utilizzo. Una normale conversazione con un assistente non equivale automaticamente a mettere a disposizione del modello una rete aziendale, credenziali e strumenti con cui modificare sistemi esterni.

Il rischio dipende infatti anche da quali strumenti vengono collegati all’IA. Un modello che risponde a domande senza poter eseguire azioni ha possibilità molto diverse da un agente con accesso a terminali, browser, repository di codice e servizi cloud. La proposta chiede che, quando queste capacità diventano sensibili, l’accesso all’esterno non sia concesso per impostazione predefinita, ma sulla base di garanzie di sicurezza adeguate.

Esistono comunque obiezioni pratiche: l’isolamento completo può rendere più costosi e meno realistici determinati test. Alcuni ricercatori ritengono quindi necessario affiancare all’air gap autorizzazioni limitate, monitoraggio continuo, controlli indipendenti e intervento umano. È un dibattito aperto, non la dimostrazione che ogni IA collegata a Internet rappresenti già una minaccia.

Il paradosso dell’intelligenza artificiale: più diventa utile, più servono limiti

C’è un paradosso che rende questa discussione particolarmente interessante. Per essere utili, gli assistenti del futuro dovranno poter accedere a informazioni aggiornate, utilizzare programmi e completare operazioni complesse. Ma più autonomia concedi a un agente, più diventa importante poter fermare o limitare le sue azioni quando qualcosa non va come previsto.

La lettera firmata da Hinton, Bengio e dagli altri scienziati non annuncia che l’intelligenza artificiale sia sfuggita definitivamente al controllo umano. Lancia piuttosto un avvertimento: non basta confidare che un modello segua sempre le istruzioni, soprattutto quando dispone degli strumenti per interagire con infrastrutture reali. Servono barriere tecniche, verifiche e regole condivise prima che si verifichino incidenti più gravi.

La domanda, a questo punto, non è se scollegare ogni intelligenza artificiale dal mondo. È quanta libertà sia ragionevole concedere a ciascun sistema e chi debba dimostrare che quella libertà è sicura. Per i ricercatori che hanno firmato l’appello, le precauzioni devono arrivare prima dell’incidente, non dopo.

Fonte

Ti potrebbe interessare:
Segui guruhitech su:

Esprimi il tuo parere!

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].

Scopri di più da GuruHiTech

Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.

0 0 voti
Article Rating
Iscriviti
Notificami
guest
0 Commenti
Più recenti
Vecchi Le più votate