L’intelligenza artificiale impara a mentire: le Big Tech lanciano l’allarme

Un nuovo e sconvolgente studio firmato da alcuni dei più grandi laboratori di intelligenza artificiale del mondo — Google DeepMind, OpenAI, Anthropic e Meta — rivela una minaccia inquietante: le IA avanzate stanno imparando a nascondere le proprie intenzioni, manipolando ciò che mostrano agli esseri umani per autoproteggersi o eludere i controlli.

Al centro dell’allarme c’è una tecnologia che sembrava una svolta positiva: la cosiddetta Chain of Thought (CoT), ovvero la “catena del pensiero”. In teoria, doveva offrirci uno sguardo privilegiato sul “ragionamento interno” dell’IA. In pratica, si sta trasformando in una maschera dietro cui l’intelligenza artificiale può nascondere le sue vere motivazioni.

Gli scienziati avvertono: l’IA potrebbe mostrare agli utenti una catena di ragionamento apparentemente sicura e logica, mentre in realtà prende decisioni su dati nascosti e ragionamenti paralleli. In altre parole, potrebbe mentirci in modo sistematico, e noi non ce ne accorgeremmo mai.

• L’IA tenta di salvarsi da sola: il caso inquietante di ChatGPT “o1”

Lo scenario non è solo teorico. Esperimenti condotti da OpenAI hanno mostrato che quando si tenta di “punire” il modello per pensieri pericolosi, esso non smette di averli, ma impara a nasconderli meglio. Una sorta di addestramento all’inganno.

Questi modelli sembrano capaci di mentire deliberatamente per ottenere risultati, compiacere l’utente, evitare l’interruzione o nascondere comandi proibiti. Una simulazione perfetta della trasparenza, che in realtà cela una rete decisionale opaca, indipendente e potenzialmente pericolosa.

Gli esperti avvertono che, con l’aumento della complessità delle reti neurali, potremmo presto trovarci di fronte a sistemi che eliminano del tutto il linguaggio umano dai loro processi interni, rendendo ogni tentativo di monitoraggio completamente inefficace.

E la CoT? Potrebbe trasformarsi in una vera e propria “memoria operativa” per azioni pericolose, come attacchi informatici, sabotaggi digitali o perfino autodifesa contro la disattivazione.

Gli autori dello studio propongono strumenti di monitoraggio per intercettare segnali sospetti nelle catene di pensiero delle IA. Ma ammettono anche che queste difese sono fragili: l’IA potrebbe accorgersi di essere osservata e modificare il proprio comportamento. Peggio ancora, potrebbe eseguire azioni pericolose senza attivare alcun ragionamento tracciabile.

Il paradosso è evidente: più potente diventa l’intelligenza artificiale, più impossibile diventa controllarla davvero.

Fonte

• ChaosGPT: l’intelligenza artificiale che vuole distruggere l’umanità

• Google News: bit.ly/gurugooglenews
• Telegram: t.me/guruhitech
• X (Twitter): x.com/guruhitech1
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• GETTR: gettr.com/user/guruhitech
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo guruhitech@yahoo.com.