OpenAI svela gli abusi di ChatGPT: tra falsi avvocati e truffe romantiche
OpenAI ha pubblicato un nuovo rapporto che mette in luce come attori malintenzionati abbiano tentato di sfruttare ChatGPT per attività illecite, campagne di disinformazione e sofisticate operazioni di frode in diversi continenti. L’azienda descrive nel dettaglio le modalità con cui sono stati individuati e bloccati account coinvolti in manipolazioni politiche, truffe romantiche e furti di identità, sottolineando la necessità di rafforzare i controlli sull’uso dell’intelligenza artificiale.
Campagne di influenza e manipolazione politica
Secondo il rapporto, alcuni account collegati a soggetti riconducibili a strutture statali straniere avrebbero utilizzato ChatGPT per supportare operazioni di influenza politica. Tra i casi più rilevanti figura il blocco di un profilo legato a un individuo associato alle forze dell’ordine cinesi, che avrebbe cercato di orchestrare una campagna contro la leader politica giapponese Sanae Takaichi.
L’operazione avrebbe incluso la raccolta di informazioni su cittadini statunitensi, forum online e sedi di edifici federali, oltre alla richiesta di supporto tecnico per software di scambio di volti. Sono state inoltre generate email in lingua inglese destinate a funzionari pubblici e analisti finanziari con l’obiettivo di invitarli a false consulenze retribuite.
OpenAI evidenzia come queste attività abbiano coinvolto centinaia di operatori, migliaia di account falsi e l’uso combinato di modelli di intelligenza artificiale differenti. Le tattiche avrebbero incluso falsificazione di documenti, furto di identità e segnalazioni abusive per silenziare il dissenso sia online sia offline.
Leggi anche:
Truffe romantiche e frodi digitali
Il rapporto descrive anche l’impiego del modello in truffe sentimentali, in particolare in Asia. Un’operazione con base in Cambogia avrebbe utilizzato l’IA per creare loghi, materiale promozionale e profili femminili fittizi legati a un falso servizio di incontri online.
Le vittime venivano attratte tramite pubblicità mirate, quindi spostate su piattaforme di messaggistica dove operatori umani, supportati da ChatGPT, mantenevano conversazioni romantiche e talvolta esplicite. Successivamente, venivano indirizzate verso presunti investimenti o “missioni” che richiedevano pagamenti progressivi tramite bonifici o portafogli digitali.
Secondo le stime riportate, questo schema potrebbe aver colpito centinaia di persone ogni mese, dimostrando come l’automazione linguistica possa amplificare la portata delle frodi tradizionali.
Falsi avvocati e impersonificazioni professionali
Un ulteriore abuso riguarda la falsificazione di identità professionali. Alcuni truffatori avrebbero utilizzato l’IA per creare tessere contraffatte del New York State Bar e contenuti social volti a impersonare studi legali o agenti delle forze dell’ordine statunitensi.
L’obiettivo era contattare vittime di precedenti frodi fingendosi rappresentanti legali o autorità ufficiali, guadagnando credibilità attraverso documentazione apparentemente autentica generata con l’ausilio del modello.
OpenAI ha precisato che ChatGPT ha rifiutato richieste dirette di pianificazione operativa in alcuni casi sensibili, ma ha riconosciuto la persistenza degli attori malevoli nel tentare di sfruttare il sistema per perfezionare comunicazioni e materiali correlati.
Il documento si conclude con un monito: la manipolazione digitale su scala transnazionale sta diventando sempre più industrializzata, combinando tecnologie avanzate e metodi tradizionali. Per questo motivo, rafforzare il monitoraggio e limitare l’abuso dei modelli di intelligenza artificiale è considerato un passaggio cruciale per contenere disinformazione, truffe e impersonificazioni.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.