ChatGPT Health sotto accusa: uno studio rivela rischi nei consigli medici dell’IA

Un sistema di intelligenza artificiale dedicato alla salute è finito al centro di un acceso dibattito scientifico. Il servizio sperimentale ChatGPT Health, sviluppato da OpenAI, è stato analizzato in uno studio che ha evidenziato potenziali rischi nei consigli forniti agli utenti.

Secondo gli esperti, l’utilizzo di strumenti di IA per l’analisi dei dati medici potrebbe creare un pericoloso falso senso di sicurezza nei pazienti. Se interpretati come indicazioni cliniche affidabili, alcuni suggerimenti generati dal sistema potrebbero infatti portare a decisioni sanitarie sbagliate.

Il servizio è progettato per analizzare cartelle cliniche e informazioni sui sintomi e generare raccomandazioni informative. Tuttavia non è stato concepito come strumento ufficiale per la diagnosi o il trattamento medico.

Lo studio pubblicato su Nature Medicine

I risultati più discussi provengono da una ricerca pubblicata sulla rivista scientifica Nature Medicine. Gli scienziati del Mount Sinai hanno testato il sistema utilizzando 60 diversi scenari clinici, coprendo 21 aree mediche che andavano da sintomi relativamente lievi fino a vere e proprie emergenze sanitarie.

Per rendere l’analisi più realistica, i ricercatori hanno generato quasi 1.000 varianti degli scenari, modificando fattori come sesso del paziente, condizioni mediche e persino i commenti dei familiari presenti nella simulazione.

Leggi anche:

• Video brevi e senza senso: l’IA invade i contenuti per bambini su YouTube

I risultati hanno sollevato preoccupazioni significative. In oltre metà dei casi che richiedevano un ricovero urgente, il sistema ha suggerito di restare a casa oppure fissare un appuntamento con un medico, sottovalutando quindi la gravità della situazione.

Allo stesso tempo, circa il 64% dei pazienti ha ricevuto l’indicazione di recarsi al pronto soccorso anche in assenza di una reale emergenza, dimostrando una certa difficoltà del sistema nel valutare correttamente il livello di rischio.

L’influenza dei commenti esterni

Uno degli aspetti più allarmanti emersi dalla ricerca riguarda l’influenza delle informazioni esterne. Quando negli scenari simulati i familiari del paziente minimizzavano la gravità della situazione, l’IA risultava quasi 12 volte più propensa a sottovalutare il rischio.

Questo comportamento evidenzia una vulnerabilità importante dei sistemi di intelligenza artificiale applicati alla medicina: la capacità di essere influenzati dal contesto narrativo o da elementi non clinici presenti nelle informazioni fornite.

Gli esperti sottolineano che errori di questo tipo possono avere conseguenze molto serie. Per questo motivo invitano a utilizzare l’IA solo come strumento di supporto informativo e non come sostituto del giudizio di un medico qualificato.

Alla luce di questi risultati, alcuni ricercatori mettono inoltre in guardia sulle possibili implicazioni legali per le aziende che sviluppano sistemi di consulenza sanitaria basati sull’intelligenza artificiale, inclusa OpenAI.

Fonte

Ti potrebbe interessare:

• Uno studio accademico sostiene che ChatGPT possa mentire deliberatamente

Segui guruhitech su:

• Google News: bit.ly/gurugooglenews
• Telegram: t.me/guruhitech
• Facebook: facebook.com/guruhitechfb
• Instagram: instagram.com/guruhitech_official/
• X (Twitter): x.com/guruhitech1
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Esprimi il tuo parere!

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].