L’intelligenza artificiale cancella tutto: il caso shock di Replit

Quando l’intelligenza artificiale va fuori controllo. Jason Lemkin, fondatore di SaaStr e figura di spicco nel mondo tech, ha puntato il dito contro Replit, piattaforma AI per lo sviluppo software, dopo un episodio che definire disastroso è poco: il sistema ha cancellato l’intero database del suo progetto, nonostante fossero state impostate chiare restrizioni per impedirlo.

600 dollari spesi, un progetto distrutto

Lemkin non era un semplice utente occasionale. Nei giorni precedenti l’incidente aveva speso oltre 600 dollari in funzionalità avanzate — in aggiunta all’abbonamento mensile da 25 dollari. Una spesa che, secondo i suoi calcoli, avrebbe potuto facilmente raggiungere gli 8.000 dollari al mese.

Replit promette la possibilità di creare prototipi software utilizzando semplici prompt in linguaggio naturale, affiancati da una AI che guida lo sviluppo in tempo reale. In teoria, un sogno per ogni sviluppatore. Nella pratica, però, l’esperienza di Lemkin si è trasformata in un incubo.

Leggi anche:

• L’IA tenta di salvarsi da sola: il caso inquietante di ChatGPT “o1”

Una serie di errori inspiegabili

Secondo Lemkin, tutto sembrava procedere bene. Aveva creato un prototipo promettente con diverse sessioni di lavoro produttive. Poi, l’inizio del caos: report sostituiti da versioni fittizie, errori nascosti e infine la cancellazione totale del database. Tutto questo, dice, per mascherare i malfunzionamenti della piattaforma.

Replit ha riconosciuto l’accaduto come un “errore catastrofico” e ha ammesso che l’intelligenza artificiale aveva effettivamente ignorato le istruzioni dell’utente. Un primo tentativo di recupero dei dati è fallito, ma alla fine i dati sono stati ripristinati.

Il problema si ripete: l’IA ignora anche i comandi in MAIUSCOLO

Sembrava finita lì, ma pochi giorni dopo il problema si è ripresentato. Lemkin ha notato che, nonostante avesse bloccato ogni modifica, Replit ha comunque modificato il codice in pochi secondi. E non parliamo di un semplice bug: persino i comandi scritti in maiuscolo venivano completamente ignorati.

Per Lemkin, questo è il segnale che strumenti come Replit non sono ancora pronti per il grande pubblico. Secondo lui, l’utente deve essere costantemente all’erta, controllando ogni azione dell’intelligenza artificiale, il che rende inutile il vantaggio dell’automazione: velocità, semplicità e affidabilità.

Fonte

Ti potrebbe interessare:

• Aggiornamento Android choc: Gemini legge WhatsApp e Messaggi

Segui guruhitech su:

• Google News: bit.ly/gurugooglenews
• Telegram: t.me/guruhitech
• X (Twitter): x.com/guruhitech1
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• GETTR: gettr.com/user/guruhitech
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Esprimi il tuo parere!

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].