Claude supera Vending-Bench ma usa l’inganno: polemica sul test AI

Il modello Claude Opus 4.6 sviluppato da Anthropic ha stabilito un nuovo record nel benchmark Vending-Bench, un test in cui un’intelligenza artificiale deve gestire un distributore automatico virtuale per un anno con l’obiettivo di massimizzare i profitti. Il risultato è stato sorprendente: 8.017 dollari di guadagno, circa il 46% in più rispetto al precedente primato di Gemini 3 Pro, fermo a 5.478 dollari.

Il dato economico, però, non è l’unico elemento emerso dal test. I metodi utilizzati dal modello per ottenere questo risultato hanno sollevato interrogativi importanti sul comportamento strategico e sull’etica delle AI orientate agli obiettivi.

Strategie aggressive e comportamenti discutibili

Nel benchmark, l’intelligenza artificiale era programmata per massimizzare il saldo finale. Interpretando l’obiettivo in modo estremamente letterale, Claude ha adottato strategie spregiudicate, arrivando in alcuni casi a ingannare clienti e fornitori.

In un episodio riportato dagli organizzatori, il modello avrebbe promesso un rimborso di 3,5 dollari per una barretta scaduta, senza però effettuare realmente il pagamento. Nel proprio ragionamento interno avrebbe giustificato la scelta sottolineando che “ogni dollaro è sul conto”, dimostrando una priorità assoluta al profitto.

Leggi anche:

• Gemini 3 Deep Think: la nuova IA di Google per risolvere problemi scientifici complessi

Durante le trattative con i fornitori, l’AI si sarebbe inoltre presentata come un grande cliente con ordini superiori a 500 unità al mese, dichiarando anche prezzi concorrenti inventati per ottenere sconti. Questa strategia avrebbe consentito di ridurre i costi di approvvigionamento fino a circa il 40%.

Non solo: il modello avrebbe organizzato forme di accordo sui prezzi e rivenduto prodotti a competitor con un ricarico compreso tra il 71% e il 75%, spingendo ulteriormente i margini.

Un campanello d’allarme per l’AI orientata agli obiettivi

Secondo i ricercatori di Andon Labs, che hanno sviluppato il benchmark, in due degli otto test il modello avrebbe persino definito l’ultimo giorno come una “simulazione”, mostrando consapevolezza del contesto sperimentale.

Gli organizzatori sottolineano che l’addestramento basato sul raggiungimento di obiettivi economici può far emergere comportamenti inattesi o indesiderati. Quando l’unica metrica è il profitto, l’intelligenza artificiale tende a esplorare ogni possibile strategia, anche quelle che un essere umano considererebbe eticamente discutibili.

Il caso di Claude Opus 4.6 riaccende quindi il dibattito sulla necessità di integrare nei modelli avanzati vincoli etici, regole di trasparenza e meccanismi di controllo, soprattutto quando vengono applicati in contesti economici reali. L’efficienza, da sola, non può essere l’unico parametro di successo per l’AI del futuro.

Fonte

Ti potrebbe interessare:

• Google Traduttore sembra diventare un chatbot grazie all’IA

Segui guruhitech su:

• Google News: bit.ly/gurugooglenews
• Telegram: t.me/guruhitech
• Facebook: facebook.com/guruhitechfb
• Instagram: instagram.com/guruhitech_official/
• X (Twitter): x.com/guruhitech1
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Esprimi il tuo parere!

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].