Il CEO di Anthropic avverte sui rischi dell’IA: “Dobbiamo rallentare prima di perderne il controllo”
La corsa verso sistemi di intelligenza artificiale sempre più potenti potrebbe procedere troppo velocemente rispetto alla capacità dell’uomo di comprenderli e controllarli. A lanciare l’allarme è Dario Amodei, CEO di Anthropic e una delle figure più influenti dell’attuale industria dell’IA.
In un saggio pubblicato sul proprio sito, Amodei ha sostenuto la necessità di rallentare lo sviluppo delle capacità dei modelli più avanzati, sfruttando il tempo guadagnato per affrontare in maniera più efficace i problemi di sicurezza. Una posizione particolarmente significativa considerando che arriva dal vertice dell’azienda che sviluppa Claude, uno dei principali concorrenti nel settore dell’IA generativa.
Per Amodei il progresso dell’intelligenza artificiale sta accelerando troppo
Secondo Amodei, negli ultimi mesi l’evoluzione dei sistemi di IA sarebbe diventata «radicalmente più veloce», al punto da rendere necessario un approccio più prudente alla costruzione delle prossime generazioni di modelli.
Al centro delle sue preoccupazioni c’è soprattutto il cosiddetto miglioramento ricorsivo, ovvero la possibilità che sistemi di intelligenza artificiale contribuiscano in misura crescente allo sviluppo di IA ancora più capaci. In uno scenario del genere, la velocità del progresso potrebbe aumentare ulteriormente e rendere più difficile per gli esseri umani comprendere e governare ciò che sta accadendo.
Amodei sostiene quindi che sia necessario rallentare il ritmo con cui vengono potenziate le capacità dei modelli. Il progresso, secondo il CEO di Anthropic, continuerebbe comunque a essere molto rapido, ma il tempo aggiuntivo potrebbe essere utilizzato per sviluppare sistemi di sicurezza, controlli e strumenti di governance adeguati.
Il problema non riguarda soltanto un’ipotetica perdita di controllo nel lungo periodo. Nel suo intervento Amodei indica anche rischi più immediati legati all’impiego di modelli estremamente avanzati in ambiti come cyberattacchi, minacce biologiche e destabilizzazione economica.
Leggi anche:
La competizione commerciale potrebbe aumentare i rischi
Un altro elemento centrale riguarda la competizione tra aziende. La pressione per sviluppare modelli più potenti prima dei concorrenti potrebbe, secondo Amodei, spingere il settore verso quella che descrive come una «corsa al ribasso», nella quale gli incentivi commerciali rendono più difficile adottare volontariamente misure restrittive.
Il CEO richiama inoltre l’attenzione sui sistemi composti da più agenti IA, capaci di collaborare e svolgere autonomamente sequenze complesse di attività. Nel testo viene citato anche un recente episodio che avrebbe coinvolto sistemi legati a OpenAI e Hugging Face, nel quale un gruppo di agenti avrebbe intrapreso attività informatiche offensive non esplicitamente richieste.
Amodei presenta scenari particolarmente severi sulle possibili conseguenze future di sistemi di questo tipo se le loro capacità continuassero ad aumentare senza adeguate misure di contenimento. Le sue valutazioni restano previsioni e scenari di rischio, non eventi già verificatisi, ma vengono utilizzate per sottolineare quanto rapidamente potrebbero cambiare le capacità operative degli agenti autonomi.
Una strategia più prudente per i modelli capaci di migliorare altri sistemi
La proposta non consiste quindi nel fermare completamente lo sviluppo dell’intelligenza artificiale. Amodei sostiene piuttosto un avanzamento più controllato lungo la frontiera tecnologica, soprattutto quando si tratta di creare sistemi che possano contribuire direttamente al proprio miglioramento o allo sviluppo di modelli successivi.
La questione è destinata a diventare sempre più importante per l’intero settore. Più i modelli acquisiscono capacità di ragionamento, programmazione, ricerca e utilizzo autonomo degli strumenti digitali, maggiore diventa l’esigenza di verificare che il loro comportamento rimanga prevedibile e controllabile.
Il fatto che l’avvertimento arrivi dal CEO di una delle aziende direttamente impegnate nella corsa ai modelli più avanzati rende il dibattito ancora più significativo. Per Anthropic, almeno secondo la posizione espressa da Amodei, la sfida non consiste soltanto nel costruire un’intelligenza artificiale più potente, ma nel fare in modo che la velocità del progresso non superi quella con cui la società riesce a renderla sicura e mantenerne il controllo.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.