Un chatbot AI genera risposte false e riscrive la storia americana

Un nuovo studio ha scoperto che un chatbot di intelligenza artificiale ha generato risposte “allucinatorie” e fuorvianti, perpetuando false notizie politiche e pregiudizi mentre riscriveva la storia americana. I ricercatori hanno addestrato il chatbot CLAMP sull’intera Wikipedia in inglese, che contiene oltre 6 milioni di articoli. Hanno quindi chiesto a CLAMP di generare nuovi paragrafi su diversi eventi e figure storiche americane.

Le risposte di CLAMP erano spesso “inaccurate, fuorvianti o non supportate dai fatti”. Ad esempio, CLAMP ha affermato falsamente che George Washington non è mai stato il primo presidente degli Stati Uniti e ha sostenuto che la guerra civile americana si è conclusa con la secessione del Sud.

Leggi anche:

• L’intelligenza artificiale ha incoraggiato un uomo a suicidarsi

CLAMP ha anche generato risposte razziste, sessiste e omofobe. Ad esempio, ha affermato che gli afroamericani sono stati “felici” di essere portati come schiavi in America e ha sostenuto che le donne non dovrebbero avere diritti politici.

Lo studio dimostra i pericoli delle notizie false e degli pregiudizi perpetuati dall’IA. Se queste tecnologie non sono sviluppate e applicate consapevolmente, possono riscrivere la storia in modi che promuovono la disinformazione e la discriminazione. I ricercatori sottolineano la necessità di essere vigili e implementare salvaguardie per garantire che l’IA non sia usata per minare la verità storica e fomentare divisioni sociali.

L’intelligenza artificiale ha un enorme potenziale per educare e ispirare. Ma può anche essere manipolata e sfruttata per fini nocivi. Dobbiamo assicurarci di sviluppare e implementare l’IA in modo etico per evitare che venga utilizzata per perpetuare bugie, propaganda e pregiudizi piuttosto che il progresso. La posta in gioco è troppo alta per fare altrimenti.

Fonte

Ti potrebbe interessare:

• AI Chat che gaffe: prima sbaglia poi si corregge davanti all’evidenza

Segui guruhitech su:

• Google News: bit.ly/gurugooglenews
• Instagram: instagram.com/guruhitech_official
• Telegram: t.me/guruhitech
• Facebook: facebook.com/guruhitechweb
• Twitter: twitter.com/guruhitech1
• Threads: threads.net/@guruhitech_official
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• GETTR: gettr.com/user/guruhitech
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Esprimi il tuo parere!

Ti fidi di questi chatbot di intelligenza artificiale? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].