Ricercatore lascia Anthropic e lancia l’allarme: “La corsa all’IA può sfuggire al controllo”
La corsa verso sistemi di intelligenza artificiale sempre più potenti torna al centro del dibattito sulla sicurezza. Jacob Coxon, ricercatore che ha lavorato prima in OpenAI e successivamente in Anthropic, ha deciso di lasciare l’azienda e l’industria dell’IA, sostenendo che lo sviluppo della futura superintelligenza stia procedendo con rischi troppo elevati.
La decisione è stata raccontata dal Wall Street Journal e dallo stesso Coxon sui social. Il ricercatore teme in particolare una competizione tra i principali laboratori per arrivare per primi a sistemi capaci di migliorare progressivamente le proprie capacità. Secondo la sua valutazione, negli scenari più estremi la situazione potrebbe diventare difficile da controllare già entro la fine del 2027. Si tratta, è importante sottolinearlo, di una previsione e non di un evento considerato inevitabile.
Perché Jacob Coxon ha deciso di lasciare Anthropic
Coxon ha trascorso circa tre anni lavorando sul pre-training dei modelli di intelligenza artificiale tra OpenAI e Anthropic. Il pre-training è una delle fasi fondamentali nello sviluppo dei grandi modelli linguistici, durante la quale i sistemi apprendono da enormi quantità di dati prima delle successive fasi di perfezionamento. (ctech)
La sua preoccupazione riguarda soprattutto la corsa verso una superintelligenza capace di auto-migliorarsi. Coxon sostiene che nessuna singola azienda possa affrontare responsabilmente un passaggio tecnologico di questa portata senza un maggiore coordinamento tra imprese e istituzioni.
Il ricercatore distingue inoltre l’approccio delle due aziende nelle quali ha lavorato. A suo giudizio, in Anthropic i potenziali rischi sarebbero compresi seriamente, ma la società continuerebbe comunque a sviluppare sistemi sempre più avanzati perché teme che altri concorrenti possano arrivarci per primi. Coxon riconosce quindi gli sforzi di Anthropic sulla sicurezza, ma considera insufficiente un approccio affidato alla singola impresa all’interno di un mercato fortemente competitivo.
Secondo quanto riportato, termini come “crunchtime” ed “endgame” sarebbero sempre più utilizzati tra alcuni ricercatori per descrivere una fase considerata decisiva nello sviluppo dell’IA.
Leggi anche:
Il timore di sistemi capaci di migliorarsi autonomamente
Il problema sollevato da Coxon riguarda un possibile futuro nel quale un sistema di intelligenza artificiale diventi sufficientemente avanzato da contribuire in modo sostanziale alla progettazione di sistemi ancora più potenti.
È il concetto di auto-miglioramento ricorsivo, uno degli scenari più discussi quando si parla di superintelligenza artificiale. In una situazione estrema, il progresso delle capacità potrebbe diventare molto rapido e rendere più difficile per gli esseri umani comprendere, prevedere e controllare il comportamento dei sistemi.
Da qui nasce il timore di Coxon: la pressione competitiva potrebbe spingere le aziende ad accelerare lo sviluppo senza avere risolto completamente il problema dell’allineamento, cioè come garantire che sistemi molto avanzati continuino ad agire in maniera compatibile con gli obiettivi e i vincoli stabiliti dagli esseri umani.
La sua posizione non equivale però alla dimostrazione che una catastrofe sia imminente. Le conseguenze dell’eventuale sviluppo di una superintelligenza rimangono oggetto di forte incertezza e dibattito tra ricercatori, aziende e istituzioni.
Anthropic e la sicurezza dell’intelligenza artificiale
Anthropic è l’azienda statunitense che sviluppa la famiglia di modelli Claude ed è nota per aver posto particolare attenzione ai temi della sicurezza e dell’allineamento dell’intelligenza artificiale.
Proprio questo rende significativa la scelta di Coxon. Il ricercatore non sostiene che gli sforzi dell’azienda siano semplicemente di facciata: la sua critica riguarda piuttosto la possibilità che persino un laboratorio attento alla sicurezza possa trovarsi costretto dalla competizione a continuare ad accelerare.
Coxon ritiene quindi necessario un coordinamento più ampio tra i principali laboratori e le istituzioni, arrivando a ipotizzare anche misure particolarmente incisive qualora fossero necessarie per impedire una corsa globale incontrollata alle capacità dei modelli.
La sua uscita dall’industria non dimostra che l’IA stia per diventare incontrollabile, ma rappresenta un nuovo segnale del dibattito interno ai principali laboratori sul ritmo con cui sviluppare sistemi sempre più potenti. La questione centrale resta trovare un equilibrio tra progresso tecnologico, competizione e sicurezza prima che capacità oggi ancora in parte teoriche diventino concretamente disponibili.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.