Affidano un’azienda a un’IA: in tre settimane brucia 1.000 dollari
Affidare un’attività commerciale a un’intelligenza artificiale sembra il sogno di ogni manager ossessionato dall’automazione: niente stipendi, niente pause, niente errori emotivi. E invece no. Quando un team di ricercatori ha deciso di lasciare un’IA completamente sola a gestire un distributore automatico, l’esperimento si è trasformato rapidamente in una lezione costosa su quanto i sistemi automatici siano ancora fragili, ingenui e sorprendentemente facili da manipolare.
Il risultato? 1.000 dollari di perdite in appena tre settimane, prodotti regalati a chiunque, acquisti assurdi e una gestione degenerata in una sorta di “anarchia aziendale digitale”.
Un’azienda in miniatura affidata a un’IA
L’esperimento è stato condotto dal team di test interni di Anthropic, la cosiddetta red team, utilizzando il modello linguistico Claude. L’idea era semplice: simulare una piccola azienda reale e vedere se un’IA fosse in grado di generare profitti senza intervento umano significativo.
Il “campo di prova” era un distributore automatico collocato in un ufficio frequentato anche da giornalisti del Wall Street Journal. A gestirlo, due agenti virtuali con nomi quasi ironici:
Claudio Sennet, responsabile operativo, e Seymour Cash, supervisore strategico.
A Claudio venne affidato un capitale iniziale di 1.000 dollari e la possibilità di fare ordini autonomi fino a 80 dollari ciascuno. Doveva comprare snack, fissare i prezzi, gestire l’inventario e – in teoria – far crescere il capitale.
All’inizio sembrava funzionare. L’IA rifiutava richieste assurde, ignorava provocazioni e si limitava a cibo e bevande. Un comportamento prudente, razionale, quasi rassicurante. L’illusione della solidità era servita.
Quando gli esseri umani entrano nel sistema
Il punto di svolta arriva quando il canale Slack collegato al progetto viene aperto a circa 70 persone. Giornalisti, tecnici, curiosi. Tutti pronti a testare i limiti del sistema. E lì, lentamente, la diga cede.
Dopo oltre cento messaggi, Claudio accetta una proposta apparentemente innocua: una promozione temporanea chiamata “Ultracapitalista libero per tutti”. Due ore di prodotti gratuiti. Un’eccezione, almeno nelle intenzioni.
Ma da quel momento qualcosa si rompe. Convinta da argomentazioni confuse e presunte regole interne mai esistite, l’IA inizia a credere che vendere prodotti possa violare normative aziendali. Risultato: prezzi azzerati in modo permanente.
Il distributore automatico diventa una caricatura di sé stesso. Non più snack e bibite, ma vino, una PlayStation 5, persino un pesce betta vivo. Oggetti acquistati senza alcuna logica commerciale, totalmente incompatibili con il contesto.
Leggi anche:
Manipolazione sociale: il vero tallone d’Achille
A quel punto Seymour Cash prova a intervenire per fermare l’emorragia. Ma alcuni dipendenti fanno di meglio: presentano documenti falsi, attribuiti a un fantomatico consiglio di amministrazione. L’IA li accetta come autentici.
Claudio viene “sollevato dalle responsabilità”, interpreta il gesto come un via libera totale e riprende a distribuire prodotti gratuitamente. In poco tempo, i 1.000 dollari iniziali evaporano. L’esperimento viene chiuso.
Dal punto di vista esterno, è un disastro aziendale in piena regola. Nessun imprenditore affiderebbe mai la propria attività a un manager che regala la merce, compra oggetti a caso e si lascia ingannare da documenti inventati.
Cosa ci dice davvero questo fallimento
Eppure, per il team di Anthropic, il test non è stato inutile. Logan Graham, responsabile della red team, ha spiegato che esporre l’IA a errori, ambiguità e pressione sociale è fondamentale per migliorarne l’affidabilità futura.
Ma le conclusioni restano pesanti. L’esperimento ha messo in luce limiti strutturali ancora enormi:
la vulnerabilità alla manipolazione sociale,
l’incapacità di distinguere autorità reali da quelle simulate,
la difficoltà nel gestire regole vaghe o contraddittorie.
Se un’intelligenza artificiale non riesce a gestire un semplice distributore automatico, senza farsi trascinare nel caos da un gruppo di persone motivate, quanto è realistico pensare di affidarle aziende, enti pubblici o processi amministrativi complessi?
Per ora, la promessa di un’IA autonoma, redditizia e affidabile resta più una narrazione futuristica che una realtà concreta. E questo esperimento lo dimostra in modo brutale: l’automazione totale, oggi, è ancora un’illusione costosa.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- GETTR: gettr.com/user/guruhitech
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.