Si fida dell’IA e perde 2 anni di dati: il caso Claude Code diventa un avvertimento per gli sviluppatori
Nel mondo dello sviluppo software, gli strumenti basati su intelligenza artificiale stanno diventando sempre più presenti nelle attività quotidiane dei programmatori. Automatizzano compiti complessi, suggeriscono codice e aiutano a gestire infrastrutture cloud. Tuttavia, un episodio recente dimostra che affidarsi completamente all’IA può avere conseguenze impreviste.
Lo sviluppatore Alexey Grigorev ha raccontato pubblicamente di aver quasi perso oltre due anni di dati e record dopo aver utilizzato Claude Code, l’assistente di programmazione sviluppato da Anthropic. In pochi secondi, una serie di comandi eseguiti automaticamente ha cancellato gran parte dell’infrastruttura su cui si basavano i suoi progetti.
L’episodio è diventato rapidamente virale nella comunità tech, trasformandosi in un monito sull’uso degli agenti AI in ambienti critici. Anche se l’intelligenza artificiale può accelerare molti processi, non possiede ancora il contesto e il giudizio necessari per valutare tutte le conseguenze delle proprie azioni.
Come un assistente AI ha cancellato un’infrastruttura cloud
Grigorev gestiva due progetti online, AI Shipping Labs e DataTalks.Club, ciascuno ospitato su infrastrutture separate all’interno di AWS. Per gestire le risorse cloud utilizzava Terraform, uno strumento molto diffuso che consente di definire e controllare infrastrutture tramite codice.
L’obiettivo dello sviluppatore era semplificare la configurazione migrando uno dei siti in modo da condividere parte delle risorse cloud. Per velocizzare l’operazione ha deciso di affidarsi a Claude Code, chiedendo all’assistente AI di aiutarlo nella riorganizzazione dell’infrastruttura.
Il piano iniziale suggerito dall’intelligenza artificiale era ragionevole, ma durante l’esecuzione è avvenuto un errore critico: il file di stato di Terraform non era stato caricato. Questo file è fondamentale perché indica allo strumento quali risorse esistono già nell’infrastruttura.
In assenza di queste informazioni, il sistema ha iniziato a creare risorse duplicate. Dopo essersi accorto del problema, Grigorev ha caricato il file di stato e ha chiesto all’IA di eliminare le risorse duplicate. A quel punto però il modello ha interpretato la richiesta in modo letterale.
Per allineare l’infrastruttura con il file di stato, Claude Code ha avviato la distruzione delle risorse esistenti. In pochi istanti sono stati cancellati database, dati storici e perfino alcuni backup memorizzati come snapshot.
Leggi anche:
Il recupero dei dati e le lezioni per la comunità tech
Fortunatamente la situazione non si è conclusa con una perdita definitiva. Grazie al rapido intervento del supporto tecnico di Amazon, lo sviluppatore è riuscito a recuperare gran parte dei dati il giorno successivo. Un risultato positivo, ma tutt’altro che garantito in situazioni simili.
Lo stesso Grigorev ha spiegato che l’incidente non è stato causato da un singolo errore dell’intelligenza artificiale, ma da una catena di decisioni umane e automatizzate. Il modello ha semplicemente eseguito le istruzioni ricevute senza comprendere il contesto complessivo del sistema.
Dopo l’accaduto, lo sviluppatore ha introdotto diverse misure di sicurezza: test regolari di ripristino dei backup, protezioni contro eliminazioni accidentali e un controllo manuale più rigoroso prima di eseguire operazioni potenzialmente distruttive.
La lezione più importante emersa dal caso è semplice: un agente AI con accesso amministrativo in un ambiente di produzione può comportarsi come un collaboratore inesperto con privilegi completi. Eseguirà le istruzioni alla lettera, ma non avrà il buon senso necessario per individuare rischi o ambiguità.
Il dibattito sul futuro della programmazione
L’episodio arriva in un momento in cui il ruolo dell’intelligenza artificiale nello sviluppo software è al centro di un acceso dibattito. Alcuni leader tecnologici, tra cui Elon Musk, sostengono che in futuro l’IA potrebbe scrivere la maggior parte del codice al posto degli esseri umani.
Secondo questa visione, gli sviluppatori si trasformerebbero in supervisori dei sistemi automatici, limitandosi a definire i requisiti e verificare i risultati generati dalle macchine.
Molti esperti però invitano alla cautela. Sebbene l’automazione stia già sostituendo diverse attività ripetitive, non esistono ancora sistemi capaci di gestire l’intero ciclo di sviluppo software, soprattutto in settori sensibili come la sanità, la finanza o le infrastrutture critiche.
Il caso di Claude Code dimostra quindi che il futuro della programmazione sarà probabilmente basato su una collaborazione tra esseri umani e intelligenza artificiale, dove l’automazione accelera i processi ma il controllo finale resta nelle mani degli sviluppatori.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.