Salute online in pericolo: perché i risultati AI di Google possono farti male
Cercare consigli sulla salute su Google è diventato un gesto automatico per milioni di persone. Ma secondo una recente indagine di The Guardian, questa abitudine potrebbe trasformarsi in un serio rischio per la sicurezza, a causa delle informazioni imprecise e talvolta pericolose fornite dai nuovi riepiloghi generati dall’intelligenza artificiale di Google.
Le cosiddette AI Overviews sono pensate per offrire risposte rapide e sintetiche alle domande degli utenti, soprattutto su temi complessi come la salute. Tuttavia, proprio questa apparente semplicità sta sollevando preoccupazioni sempre più forti tra medici, ricercatori ed enti sanitari.
Quando l’IA sbaglia, le conseguenze possono essere gravi
L’indagine ha portato alla luce numerosi esempi concreti in cui i riepiloghi AI di Google avrebbero fornito consigli sanitari fuorvianti o clinicamente scorretti.
Uno dei casi più allarmanti riguarda il cancro al pancreas. In risposta a una ricerca, Google avrebbe suggerito ai pazienti di evitare cibi ricchi di grassi, un’indicazione che gli esperti definiscono “davvero pericolosa”.
Secondo Anna Jewell, direttrice del supporto e della ricerca presso Pancreatic Cancer UK, seguire quel consiglio potrebbe impedire ai pazienti di assumere sufficienti calorie, compromettendo la capacità di tollerare chemioterapia o interventi chirurgici salvavita.
“Se una persona seguisse ciò che suggerisce il riepilogo dell’IA, potrebbe non riuscire a mantenere un adeguato apporto calorico. Questo può compromettere seriamente le possibilità di cura.”
Test clinici spiegati male (e il rischio di non curarsi)
Le criticità non si fermano all’oncologia. Anche le informazioni sui test di funzionalità epatica sono risultate problematiche. I riepiloghi AI avrebbero indicato intervalli ‘normali’ fuorvianti, senza considerare fattori fondamentali come età, sesso, etnia o contesto clinico.
Secondo Pamela Healy, CEO del British Liver Trust, questo tipo di errore può portare le persone a credere erroneamente di stare bene e a saltare controlli medici cruciali.
“Molte malattie del fegato non mostrano sintomi fino a stadi avanzati. Informazioni errate possono ritardare diagnosi fondamentali. Ed è estremamente pericoloso.”
Leggi anche:
Errori anche sulla salute femminile
Ancora più delicato il tema della salute ginecologica. Una ricerca su “sintomi e test del cancro vaginale” avrebbe portato l’IA di Google ad affermare che un Pap test può rilevare il cancro vaginale, un’informazione definita dagli esperti “completamente sbagliata”.
Athena Lamnisos, CEO dell’organizzazione The Eve Appeal, ha avvertito che simili errori possono scoraggiare le persone dal cercare assistenza medica tempestiva, soprattutto se credono di essere già al sicuro dopo uno screening cervicale.
“È preoccupante anche il fatto che il riepilogo dell’IA cambi di continuo: persone diverse ricevono risposte diverse in momenti diversi. Questo non è accettabile quando si parla di salute.”
Salute mentale: consigli errati e narrazioni stigmatizzanti
Le indagini hanno evidenziato problemi anche nelle ricerche legate alla salute mentale. I riepiloghi AI su temi come psicosi e disturbi alimentari avrebbero fornito indicazioni errate, incomplete o potenzialmente dannose, talvolta prive del contesto necessario.
Secondo Stephen Buckley, responsabile dell’informazione presso Mind, il rischio è che l’IA riproduca stereotipi e pregiudizi, allontanando le persone dall’aiuto adeguato.
“Alcuni riassunti possono indurre le persone a evitare di cercare supporto o a rivolgersi a fonti inappropriate. Questo è estremamente preoccupante.”
Google respinge le accuse, ma il dibattito resta aperto
Di fronte alle critiche, Google ha respinto le accuse, definendo i suoi riepiloghi AI “utili e affidabili”. L’azienda sostiene che la loro accuratezza sia paragonabile ad altre funzioni storiche del motore di ricerca, come gli snippet in evidenza, e afferma di migliorare continuamente il sistema.
Tuttavia, il punto centrale sollevato da esperti e organizzazioni sanitarie resta irrisolto:
i riepiloghi AI appaiono in cima ai risultati di ricerca, rendendoli la prima – e spesso unica – fonte consultata da milioni di utenti, anche in situazioni di ansia, dolore o emergenza.
Informazione rapida o rischio sistemico?
Come ha sottolineato Stephanie Parker, direttrice digitale di Marie Curie:
“Le persone si rivolgono a Internet nei momenti di maggiore vulnerabilità. Se le informazioni sono inaccurate o fuori contesto, il danno può essere enorme.”
Il caso dei riepiloghi AI di Google riapre così una questione cruciale: può un’intelligenza artificiale sintetizzare la medicina senza assumersi responsabilità cliniche?
Finché la risposta resta incerta, il rischio è che la comodità dell’IA prevalga sulla sicurezza dei pazienti.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- GETTR: gettr.com/user/guruhitech
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.