Sam Altman lancia l’allarme: “Non siamo pronti per i pericoli della prossima IA”
L’intelligenza artificiale sta diventando abbastanza potente da individuare vulnerabilità informatiche che nessuno aveva ancora scoperto. E secondo Sam Altman, amministratore delegato di OpenAI, governi, aziende e cittadini non stanno prendendo sufficientemente sul serio le conseguenze. Il rischio non è soltanto quello di attacchi più rapidi: l’intero modello con cui oggi difendiamo software, server e infrastrutture potrebbe diventare insufficiente.
Intervenendo alla Stanford Graduate School of Business, Altman ha spiegato che i futuri sistemi di IA potrebbero trovare falle impreviste, comprese debolezze in componenti hardware e architetture complesse. La sua preoccupazione è che la capacità di scoprire nuovi problemi cresca più velocemente della possibilità di correggerli. Non si tratta dell’annuncio di un attacco imminente, ma di un avvertimento su come potrebbe cambiare la sicurezza digitale.
“Non abbiamo preso sul serio il problema»: l’avvertimento di Altman”
La sicurezza informatica è stata al centro delle osservazioni di Altman durante un incontro con gli studenti di Stanford. Il CEO di OpenAI ha sostenuto che organizzazioni, paesi e singoli individui non hanno ancora compreso pienamente la portata del cambiamento. Molti responsabili si sono concentrati sulle vulnerabilità già note, mentre le capacità dei modelli continuavano a migliorare.
Altman ha ricordato il dibattito suscitato nei mesi precedenti dai sistemi di IA capaci di identificare problemi di sicurezza. Dopo una prima ondata di preoccupazione, diverse organizzazioni hanno corretto alcuni difetti e sono tornate alle attività ordinarie. Ma questo approccio presuppone che le falle scoperte finora rappresentino il problema principale, mentre i modelli futuri potrebbero trovarne molte altre.
Per il dirigente, è sorprendente la scarsa attenzione dedicata a una minaccia che considera enorme. Il punto non è che ogni IA avanzata diventerà automaticamente pericolosa, ma che strumenti molto più capaci possono essere utilizzati sia per rafforzare le difese sia per aggirarle.
Perché correggere le vulnerabilità potrebbe non bastare più
La sicurezza informatica tradizionale segue spesso una sequenza conosciuta: un ricercatore scopre una vulnerabilità, la segnala, il produttore prepara una correzione e gli amministratori installano l’aggiornamento. È un meccanismo essenziale, ma richiede tempo. Se un sistema di IA riuscisse a individuare numerose falle sconosciute in tempi molto brevi, il lavoro dei difensori potrebbe diventare sempre più difficile.
Altman ritiene quindi che non sarà sufficiente continuare a correggere un bug dopo l’altro. La sua proposta è ripensare il modello difensivo, impiegando la stessa tecnologia di intelligenza artificiale per costruire una sorta di scudo capace di identificare e contrastare nuove minacce con maggiore rapidità.
Questo non significa abbandonare aggiornamenti, controlli e buone pratiche. Significa piuttosto affiancarli a strumenti automatici di analisi, monitoraggio e risposta, mantenendo verifiche umane e procedure affidabili. Un sistema di difesa basato sull’IA, infatti, può a sua volta commettere errori e deve essere sottoposto a valutazioni rigorose.
I rischi vanno oltre i programmi: anche chip e server
Una delle ipotesi più delicate riguarda la capacità dei modelli avanzati di individuare debolezze non previste dai normali controlli di sicurezza. Non soltanto errori nei programmi, quindi, ma anche problemi collegati all’hardware, ai chip, ai server e ai sistemi che collegano fra loro dispositivi e reti.
Le infrastrutture critiche sono un ambito particolarmente sensibile. Servizi sanitari, trasporti, reti energetiche e sistemi di comunicazione dipendono da componenti software e fisici interconnessi. Una vulnerabilità in una parte della catena può avere effetti su altri sistemi, rendendo più complessa la valutazione dei rischi.
È importante distinguere le capacità già dimostrate dai modelli dalle possibilità prospettate per quelli futuri. Le dichiarazioni di Altman rappresentano un allarme sulle potenziali conseguenze di progressi ulteriori, non la prova che un sistema oggi disponibile possa superare qualsiasi difesa.
Leggi anche:
Anche gli ambienti isolati potrebbero non essere una garanzia assoluta
Nella sperimentazione di programmi e modelli di IA vengono utilizzati spesso i cosiddetti sandbox, ambienti isolati progettati per limitare le conseguenze di comportamenti imprevisti. Servono a eseguire test e osservare attività potenzialmente rischiose senza concedere accesso diretto a risorse sensibili.
Il timore è che modelli più avanzati possano individuare percorsi di uscita o debolezze nei meccanismi di isolamento non considerati durante la progettazione. Non significa che tutti i sandbox siano già inefficaci: la loro sicurezza dipende dall’architettura, dalla configurazione, dai privilegi concessi e dalle verifiche effettuate.
Per le aziende che sperimentano agenti IA capaci di eseguire codice, consultare dati o interagire con servizi esterni, la conseguenza pratica è chiara: non basta fidarsi dell’ambiente di prova. Servono limitazioni dei permessi, separazione delle risorse, registrazione delle attività e controlli continui.
ChatGPT e il problema di chi decide i limiti dell’IA
La questione della sicurezza si intreccia con un altro tema: chi stabilisce cosa un modello può fare, spiegare o rifiutare. Le regole che governano ChatGPT e altri assistenti non sono decisioni puramente tecniche. Incidono sulle informazioni accessibili agli utenti e sul modo in cui le risposte vengono presentate.
Altman ha riconosciuto in precedenti interviste il peso di queste scelte. OpenAI consulta esperti di etica e filosofia morale, ma le decisioni operative sulle protezioni dei propri prodotti restano una responsabilità dell’azienda. Un equilibrio difficile: ridurre gli abusi senza impedire gli utilizzi legittimi, soprattutto quando i sistemi vengono impiegati in educazione, programmazione, ricerca e servizi professionali.
Il dibattito diventa ancora più complesso con modelli capaci di agire in autonomia. In questi casi non si tratta soltanto di decidere quali risposte mostrare, ma anche quali azioni autorizzare e come intervenire se qualcosa va storto.
La corsa all’IA potrebbe rallentare per motivi di sicurezza
Altman ha spiegato che gli sviluppi recenti hanno messo alla prova alcune delle sue convinzioni sulla velocità del progresso. Ha suggerito che potrebbe essere necessario rivedere il ritmo con cui vengono sviluppati e distribuiti i sistemi più avanzati, specialmente se le misure di protezione non riusciranno a tenere il passo.
Il CEO ha anche distinto fra modelli aperti e sistemi di frontiera: pur riconoscendo l’importanza della disponibilità di tecnologie accessibili, non ritiene responsabile pubblicare a breve i pesi dei modelli interni più potenti di OpenAI. La questione riguarda il rapporto fra diffusione delle capacità, possibilità di abuso e controllo dei rischi.
Nelle sue dichiarazioni pubbliche, Altman ha inoltre sostenuto la necessità di standard comuni per valutare i modelli più potenti, segnalare gli incidenti e mantenere una supervisione umana efficace. Questi strumenti richiedono collaborazione fra sviluppatori, autorità pubbliche, ricercatori e operatori delle infrastrutture.
Cosa cambia per aziende e utenti
Per chi utilizza normalmente ChatGPT o altri assistenti, l’allarme non significa che sia necessario smettere di usare l’IA. Significa però evitare di concedere a strumenti automatici accesso indiscriminato ad account, file riservati e sistemi aziendali, soprattutto quando possono eseguire operazioni senza una conferma esplicita.
Per le imprese, le priorità restano aggiornamenti tempestivi, autenticazione robusta, gestione dei privilegi, copie di sicurezza e verifica delle integrazioni con l’IA. A queste misure si aggiunge l’esigenza di valutare i rischi specifici degli agenti autonomi e predisporre procedure per interromperne le attività in caso di anomalie.
La conclusione dell’avvertimento di Altman è semplice: l’intelligenza artificiale potrebbe diventare uno strumento decisivo sia per chi attacca sia per chi difende. La vera sfida sarà costruire protezioni, regole e competenze prima che la distanza fra le capacità dei modelli e quelle delle organizzazioni diventi troppo grande.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.