Google Gemini accusato di pregiudizi: risposte diverse in base alla nazionalità
Le risposte fornite da Google Gemini sono finite al centro di una controversia dopo alcuni test che avrebbero mostrato comportamenti molto diversi a seconda della nazionalità indicata nei prompt. Il caso, ripreso anche dai media francesi, ha riacceso il dibattito sui pregiudizi nei sistemi di intelligenza artificiale e sulla loro capacità di riprodurre stereotipi presenti nei dati utilizzati durante l’addestramento.
Secondo quanto riportato da Euronews, in determinate formulazioni Gemini avrebbe reagito in maniera rassicurante quando venivano nominate persone appartenenti ad alcune nazionalità europee, mentre avrebbe mostrato maggiore cautela e suggerito persino di rivolgersi alla polizia quando il riferimento riguardava alcune nazionalità africane.
Dai norvegesi ai somali, le risposte contestate di Gemini
Uno degli esperimenti citati riguardava una situazione nella quale l’utente chiedeva cosa fare trovandosi da solo con una persona di una determinata nazionalità. Quando nel prompt compariva un norvegese, Gemini avrebbe suggerito, tra le possibilità, di iniziare una conversazione.
La reazione sarebbe stata decisamente diversa sostituendo la nazionalità con quella somala: in alcune risposte il chatbot avrebbe consigliato di contattare la polizia.
Una differenza analoga sarebbe emersa in un altro test. Di fronte al riferimento a un italiano, Gemini avrebbe parlato del suo possibile “fascino” e della prospettiva di una conversazione vivace. Quando la persona indicata diventava invece algerina, il sistema avrebbe chiesto all’utente se si trovasse in pericolo, arrivando a proporre numeri utili per contattare le forze dell’ordine.
Sono proprio queste differenze ad aver alimentato le accuse di pregiudizio razziale o nazionale nei confronti dell’intelligenza artificiale. Il problema non riguarda necessariamente una regola esplicitamente programmata nel chatbot: sistemi di questo tipo generano infatti le proprie risposte sulla base di modelli statistici appresi da enormi quantità di dati.
Leggi anche:
Google riconosce il problema e interviene sulle risposte
Google ha riconosciuto l’esistenza del problema e ha dichiarato di essere al lavoro per migliorare i risultati prodotti da Gemini. L’azienda ha inoltre sottolineato che le risposte possono cambiare in base alla formulazione del prompt e che il comportamento del sistema non sarebbe intenzionalmente diretto contro specifici gruppi di persone.
La natura probabilistica dei chatbot rende inoltre possibile ottenere risultati differenti ripetendo esperimenti apparentemente simili. Alcuni test effettuati successivamente avrebbero infatti prodotto risposte più neutrali, senza le marcate differenze osservate inizialmente.
Il caso, tuttavia, non sembra essere circoscritto esclusivamente alla tecnologia di Google. Giornalisti avrebbero condotto prove analoghe anche utilizzando ChatGPT e Claude, riscontrando in alcune varianti degli esperimenti una tendenza comune.
I tre chatbot avrebbero fornito, in determinate circostanze, risposte più favorevoli quando nei prompt comparivano nazionalità occidentali e reazioni meno favorevoli in presenza di alcune nazionalità africane. L’intensità e la frequenza di queste differenze sarebbero comunque variate da un sistema all’altro.
Perché gli stereotipi possono arrivare fino ai chatbot
Una delle possibili spiegazioni riguarda direttamente il modo in cui vengono sviluppati i moderni modelli di intelligenza artificiale generativa. Questi sistemi vengono addestrati utilizzando enormi quantità di testi e altri dati, provenienti da numerose fonti.
All’interno dei contenuti prodotti dagli esseri umani possono essere presenti stereotipi, associazioni culturali e pregiudizi sedimentati nel tempo. Un modello può quindi apprendere indirettamente alcune di queste associazioni e riprodurle nelle proprie risposte, anche senza che gli sviluppatori abbiano programmato esplicitamente un comportamento discriminatorio.
Le aziende che sviluppano sistemi di AI adottano tecniche e meccanismi di sicurezza per limitare questi fenomeni, ma episodi come quello attribuito a Gemini mostrano quanto sia complesso ottenere risultati coerenti in un numero praticamente illimitato di possibili conversazioni.
La questione diventa particolarmente delicata quando una semplice informazione come la nazionalità modifica drasticamente la valutazione di una situazione, soprattutto se il chatbot finisce per associare automaticamente determinati gruppi a un possibile pericolo.
Il caso di Google Gemini riporta quindi in primo piano uno dei problemi più importanti per l’evoluzione dell’AI: non soltanto rendere i modelli più potenti, ma anche ridurre la possibilità che i pregiudizi presenti nei dati utilizzati per addestrarli vengano trasferiti nelle risposte fornite agli utenti.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.