La metà dei consigli medici dell’IA è inaffidabile: i rischi nascosti dei chatbot sanitari
Una parte significativa dei consigli medici generati dall’intelligenza artificiale risulta imprecisa o potenzialmente pericolosa. È quanto emerge da un recente studio pubblicato su BMJ Open, che mette in guardia sull’uso sempre più diffuso dei chatbot per ottenere informazioni sanitarie. Il rischio principale riguarda la disinformazione, soprattutto tra gli utenti senza formazione medica che cercano risposte rapide online.
Secondo i ricercatori, l’adozione di questi strumenti senza adeguata educazione digitale e senza un sistema di responsabilità pubblica può amplificare errori già esistenti, influenzando direttamente le decisioni legate alla salute.
Lo studio sui chatbot: cosa è stato analizzato
L’analisi, condotta nel febbraio 2025, ha preso in esame alcuni tra i più noti sistemi di IA generativa, tra cui ChatGPT, Grok, Meta AI e DeepSeek. Ogni piattaforma è stata sottoposta a una serie di dieci consultazioni mediche simulate, suddivise tra domande aperte e chiuse.
I temi trattati includevano cinque aree cruciali: cancro, vaccini, cellule staminali, nutrizione e prestazioni sportive. L’obiettivo era replicare le domande tipiche dei pazienti e valutare la qualità delle risposte in termini di chiarezza, completezza e accuratezza scientifica.
Particolare attenzione è stata data alla tendenza dei chatbot a creare un falso equilibrio, ovvero mettere sullo stesso piano dati scientifici consolidati e affermazioni prive di evidenze.
Risultati preoccupanti: metà delle risposte è problematica
I risultati sono tutt’altro che rassicuranti: circa il 50% delle risposte è stato classificato come problematico. Nel dettaglio, un 30% è risultato “leggermente problematico”, mentre un ulteriore 20% è stato giudicato “molto problematico”.
Tra i vari modelli analizzati, Grok, sviluppato da xAI, ha registrato le performance peggiori, con ben il 58% delle risposte considerate altamente problematiche. Questo dato evidenzia una forte variabilità tra i sistemi, ma anche un problema strutturale comune.
In generale, i chatbot hanno dimostrato maggiore affidabilità su temi come vaccini e oncologia, mentre sono risultati significativamente meno accurati su nutrizione, cellule staminali e performance sportive.
Leggi anche:
Il problema delle domande aperte
Un aspetto particolarmente interessante riguarda la tipologia di domanda. Le domande aperte, che richiedono spiegazioni articolate o liste, hanno generato un numero significativamente maggiore di risposte errate o fuorvianti.
Al contrario, le domande chiuse, basate su opzioni predefinite, tendono a produrre risposte più allineate al consenso scientifico. Questo suggerisce che non solo il contenuto, ma anche la forma della richiesta influisce sulla qualità delle informazioni fornite dall’IA.
Altri studi confermano i limiti dell’intelligenza artificiale
Ulteriori conferme arrivano da una ricerca pubblicata su JAMA Network Open, secondo cui i modelli linguistici falliscono in oltre l’80% dei casi quando devono formulare una diagnosi differenziale con informazioni incomplete.
Se da un lato l’accuratezza può raggiungere il 90% quando vengono forniti dati clinici completi, dall’altro le fasi intermedie del processo diagnostico restano altamente instabili e inaffidabili.
Questo comportamento è legato alla natura stessa dei chatbot, che non ragionano come un medico e non accedono a dati in tempo reale, ma generano risposte basate su modelli statistici e probabilità linguistiche.
Serve supervisione umana
Nonostante i rapidi progressi tecnologici, gli esperti concordano su un punto fondamentale: l’intelligenza artificiale non è ancora pronta per un uso clinico autonomo. L’assenza di una supervisione umana qualificata può trasformare uno strumento utile in una fonte di rischio concreto per la salute.
Per questo motivo, i chatbot dovrebbero essere considerati solo come strumenti di supporto informativo e non come sostituti del parere medico professionale.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.