L’ex capo della sicurezza torna in OpenAI: “L’IA è entrata in una nuova fase di rischio”
Un ex dirigente della sicurezza di OpenAI torna in azienda dopo pochi mesi di assenza, e la ragione è tutt’altro che rassicurante: secondo lui, l’intelligenza artificiale è entrata in una fase in cui i problemi di sicurezza devono diventare una priorità assoluta. Aleksander Madry, già responsabile del team Preparedness, ha annunciato il rientro per lavorare al fianco del capo scientifico Jakub Pachocki. La decisione arriva mentre le capacità dei modelli avanzati crescono e aumentano le domande su come controllarli prima che possano provocare danni.
Madry aveva lasciato OpenAI nel maggio 2026 con l’intenzione di dedicarsi a come l’IA potesse diventare più utile alle persone e trasformare le attività economiche. A ottobre ha cambiato prospettiva: in un messaggio pubblicato su X ha definito la sua uscita quasi un periodo sabbatico, spiegando che il progresso tecnologico ha assunto caratteristiche differenti rispetto a pochi mesi fa.
Perché Aleksander Madry ha deciso di tornare
La nuova collaborazione è stata richiesta da Jakub Pachocki, che vuole affrontare le conseguenze del rapido avanzamento dell’IA e capire come debbano influenzare la strategia di OpenAI. Anche Sam Altman ha accolto favorevolmente il rientro, sottolineando la portata delle sfide legate alla sicurezza dei sistemi sempre più potenti. Non è stato annunciato un titolo formale per il nuovo incarico di Madry: ciò che è noto è il suo coinvolgimento nelle decisioni relative ai rischi e alla velocità di sviluppo.
Il ricercatore aveva già guidato Preparedness, il gruppo incaricato di valutare pericoli potenzialmente gravi associati ai modelli di frontiera. Tra le aree considerate figurano le capacità offensive in ambito informatico, i rischi biologici e l’autonomia dei sistemi. Il suo ritorno riporta quindi al centro delle discussioni una figura che conosce direttamente i meccanismi interni di valutazione della sicurezza dell’azienda.
Astra e la soglia critica dei rischi informatici
Uno degli sviluppi che rende il contesto più delicato riguarda Astra, un modello sperimentale di OpenAI. Durante le valutazioni interne, l’azienda ha segnalato capacità informatiche talmente avanzate da richiedere controlli eccezionali e, secondo le informazioni diffuse, ha ritardato parti dello sviluppo e del rilascio mentre rafforzava le protezioni. Il livello di rischio indica le potenzialità del sistema in determinate condizioni di test: non significa che il modello abbia già condotto autonomamente attacchi reali su larga scala.
Il problema non riguarda soltanto la capacità di scrivere codice. Gli agenti IA più avanzati possono pianificare operazioni, usare strumenti e concatenare azioni. Se queste funzioni vengono impiegate senza adeguati vincoli, un errore o un abuso potrebbe produrre conseguenze più difficili da individuare e bloccare rispetto a quelle di un chatbot tradizionale.
Leggi anche:
Le tensioni interne sulla sicurezza di OpenAI
Il ritorno di Madry avviene dopo settimane di polemiche sulla gestione dei rischi. L’ex dipendente David Robinson ha criticato pubblicamente la cultura organizzativa dell’azienda, sostenendo che la corsa allo sviluppo renda difficile adottare precauzioni sufficienti. OpenAI ha respinto l’idea di trascurare la sicurezza, affermando di continuare a rafforzare le proprie procedure.
Nello stesso periodo, il licenziamento di tre ricercatori impegnati nella sicurezza ha alimentato il dibattito sui rapporti con gli esperti esterni. L’azienda ha attribuito le decisioni a presunte violazioni delle regole interne sulla condivisione di informazioni riservate, mentre i ricercatori hanno contestato questa interpretazione. Si tratta di controversie distinte dal rientro di Madry, ma contribuiscono a spiegare perché la governance della sicurezza sia diventata un tema centrale.
Che cosa cambierà per ChatGPT e gli altri modelli
Al momento non è stata annunciata una modifica specifica a ChatGPT legata al ritorno di Madry. La sua collaborazione con Pachocki sembra concentrarsi sulle scelte strategiche: quando rilasciare un modello, quali prove pretendere prima della distribuzione e come adattare i controlli a sistemi che acquisiscono capacità nuove. Per gli utenti, gli effetti potrebbero emergere soprattutto nelle modalità con cui OpenAI valuta, limita e rende disponibili le funzioni più potenti.
Il messaggio del ricercatore è significativo proprio perché arriva da chi aveva lasciato l’azienda per dedicarsi alle opportunità economiche dell’IA. A distanza di pochi mesi, Madry considera invece la sicurezza una questione così urgente da richiedere il suo ritorno. La sfida sarà trasformare questa preoccupazione in misure verificabili, senza confondere le possibilità teoriche dei modelli con danni già avvenuti.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.