Ex ricercatore di Google DeepMind lascia l’azienda e avverte: “L’IA potrebbe ucciderci tutti”
Un ex ricercatore di Google DeepMind specializzato nella sicurezza dell’intelligenza artificiale ha lasciato l’azienda e lanciato un allarme sui possibili rischi legati allo sviluppo di sistemi sempre più avanzati. Bilal Chughtai, che lavorava sulla sicurezza e sull’allineamento dell’AGI, ha dichiarato di ritenere possibile che l’intelligenza artificiale possa arrivare a provocare conseguenze catastrofiche per l’umanità.
Chughtai aveva lasciato Google DeepMind nel luglio 2026, ma ha spiegato pubblicamente le ragioni della sua decisione il 14 settembre. La sua posizione si aggiunge a quelle di altri ricercatori del settore che nelle ultime settimane hanno chiesto maggiore cautela nello sviluppo dell’IA di frontiera.
Bilal Chughtai lavorava sulla sicurezza dell’AGI
Durante la sua esperienza in Google DeepMind, Chughtai ha lavorato come research engineer occupandosi di AGI safety e alignment, cioè dello studio di metodi destinati a mantenere il comportamento di sistemi di intelligenza artificiale molto avanzati compatibile con gli obiettivi e gli interessi umani.
Nel messaggio pubblicato dopo la sua uscita dall’azienda, il ricercatore ha spiegato di aver osservato direttamente l’evoluzione dell’IA e di essere diventato profondamente preoccupato per la traiettoria seguita dalla tecnologia.
Chughtai ha scritto di credere «seriamente» che l’IA abbia il potenziale per “ucciderci tutti”, aggiungendo che il tempo disponibile per evitare uno scenario del genere potrebbe ridursi. Si tratta della valutazione personale del ricercatore e non di una previsione scientificamente accertata sull’evoluzione dell’intelligenza artificiale.
Il punto centrale della sua posizione riguarda la velocità dello sviluppo. Secondo Chughtai, le capacità dei sistemi stanno avanzando rapidamente mentre il problema dell’allineamento rimane difficile e non risolto. La sua proposta è quindi quella di portare il progresso dell’IA a un ritmo che consenta alla società di identificare e affrontare i nuovi rischi prima che possano produrre danni estremi. (Tech Times UK)
Leggi anche:
Non è l’unico ricercatore ad aver lasciato un grande laboratorio IA
L’uscita di Chughtai arriva pochi giorni dopo un altro caso che ha attirato grande attenzione. Jacob Coxon, ricercatore che aveva lavorato sia per OpenAI sia per Anthropic, ha annunciato le proprie dimissioni da Anthropic esprimendo forti preoccupazioni per una corsa verso sistemi capaci di migliorarsi autonomamente.
Coxon ha sostenuto che alcune persone direttamente coinvolte nello sviluppo dell’intelligenza artificiale considerino seriamente possibile uno scenario catastrofico entro la fine del decennio. Anche in questo caso si tratta di una valutazione sul rischio futuro, non della dimostrazione che un simile esito si verificherà.
Nel dibattito è intervenuto anche Evan Hubinger, ricercatore di Anthropic specializzato nell’allineamento. Secondo quanto riportato da Reuters, Hubinger ha dichiarato di attribuire una probabilità superiore al 10% alla possibilità che l’IA possa causare la morte di tutti gli esseri umani entro il prossimo decennio. La percentuale rappresenta la sua stima personale del rischio e non un dato empirico condiviso dall’intera comunità scientifica.
Le posizioni degli esperti sul cosiddetto rischio esistenziale dell’IA rimangono infatti molto diverse. Alcuni ricercatori considerano la perdita di controllo sui futuri sistemi avanzati un problema che richiede interventi urgenti, mentre altri sottolineano l’elevata incertezza di queste previsioni e invitano a distinguere gli scenari ipotetici dai rischi già osservabili.
Il problema della corsa tra le aziende di intelligenza artificiale
Per Chughtai, sviluppare un’intelligenza artificiale avanzata in condizioni di sicurezza sarebbe ancora possibile, ma richiederebbe maggiore coordinamento tra i principali laboratori.
Il ricercatore ha criticato quella che considera una corsa eccessivamente accelerata tra le aziende del settore e ha chiesto di rallentare il ritmo dello sviluppo abbastanza da permettere alla società di affrontare i pericoli emergenti prima che si trasformino in problemi difficili da controllare.
La questione è diventata particolarmente controversa perché rallentare unilateralmente potrebbe mettere una singola società in una posizione di svantaggio rispetto ai concorrenti. Qualsiasi forma di coordinamento tra aziende rivali, inoltre, solleva interrogativi normativi e antitrust, rendendo ancora più complesso individuare un modello condiviso per la sicurezza.
Le dimissioni di Chughtai non dimostrano quindi che uno scenario catastrofico sia inevitabile. Mostrano però quanto il confronto sulla sicurezza dell’intelligenza artificiale avanzata sia diventato acceso anche tra persone che hanno lavorato direttamente nei laboratori impegnati nello sviluppo e nello studio dei sistemi di frontiera.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.