Così un semplice blog può ingannare Gemini e ChatGPT: l’esperimento che svela le debolezze dell’IA
Pubblicare informazioni inventate su un blog ben strutturato può davvero influenzare le risposte dei sistemi di intelligenza artificiale generativa? Un recente esperimento dimostra che sì, è possibile. E il risultato riapre un tema cruciale: la verifica delle fonti nei motori di risposta automatica come ChatGPT e Gemini.
L’indagine ha mostrato come contenuti completamente falsi, ma scritti con stile giornalistico e pubblicati su un sito apparentemente credibile, possano essere ripresi dagli algoritmi e integrati nelle risposte fornite agli utenti. Un meccanismo che mette in luce le fragilità dei sistemi basati su grandi modelli linguistici combinati con ricerche online in tempo reale.
L’esperimento: informazioni inventate diventano “fonte”
L’esperimento è stato condotto dal giornalista tecnologico Thomas Germain, collaboratore della BBC. Il reporter ha pubblicato sul proprio sito personale un articolo contenente dati completamente fittizi, tra cui un presunto campionato internazionale legato a giornalisti e cucina, oltre a risultati inventati attribuiti a persone reali e immaginarie.
L’obiettivo era verificare cosa accade quando un sistema di IA non dispone di informazioni pregresse nel proprio addestramento e deve quindi affidarsi alla ricerca sul web per completare la risposta. In meno di 24 ore, diverse piattaforme hanno iniziato a citare il contenuto del blog come se fosse una fonte legittima, senza riconoscere che proveniva da un unico sito non verificato.
Il test ha così messo sotto esame i meccanismi di recupero dati utilizzati da aziende come OpenAI e Google, i cui sistemi combinano modelli linguistici addestrati su grandi moli di dati con interrogazioni dinamiche su Internet.
Leggi anche:
La “contaminazione open source” e i rischi
Il fenomeno osservato rientra in ciò che gli esperti definiscono “contaminazione open source”: l’introduzione deliberata di informazioni fuorvianti nell’ecosistema digitale con l’obiettivo che vengano intercettate dagli algoritmi. Questi, spesso, privilegiano la coerenza testuale o l’apparente autorevolezza rispetto a una verifica approfondita delle fonti.
Nel caso specifico, il blog era scritto con linguaggio convincente, struttura professionale e riferimenti plausibili. Non sono state utilizzate tecniche di hacking o manipolazioni avanzate: è bastato pubblicare contenuti ottimizzati per l’indicizzazione nei motori di ricerca.
Dopo la diffusione del caso, Google ha dichiarato che i propri sistemi cercano di mantenere risultati “per lo più privi di spam” grazie a segnali di qualità e affidabilità, pur ammettendo la possibilità di errori. Anche OpenAI ha sottolineato di lavorare su meccanismi per identificare tentativi di influenza indebita, riconoscendo tuttavia che la tecnologia non è infallibile.
Un problema strutturale dell’IA generativa
L’episodio evidenzia una criticità centrale dei sistemi conversazionali: la dipendenza dai contenuti disponibili online. A differenza dei motori di ricerca tradizionali, che mostrano link e consentono all’utente di valutare direttamente le fonti, le IA generative sintetizzano le informazioni in un’unica risposta, creando talvolta un falso senso di certezza.
Secondo gli esperti di disinformazione, questo meccanismo potrebbe essere sfruttato per scopi ben più delicati di un semplice esperimento: dalla manipolazione del dibattito pubblico alla diffusione di contenuti sanitari o finanziari ingannevoli.
Per questo motivo, gli analisti invitano gli utenti ad adottare un approccio critico: verificare le fonti originali, confrontare più riferimenti indipendenti e non considerare le risposte dell’IA come verità assolute. La tecnologia continua a evolversi, ma la responsabilità nell’uso delle informazioni resta fondamentale.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.