Cyberbullismo: l’allarme degli educatori sui contenuti offensivi generati dall’IA

Gli educatori stanno lanciando l’allarme su come l’utilizzo illecito dell’intelligenza artificiale stia diventando una tendenza nelle scuole, con gli studenti che usano questa tecnologia per generare contenuti dannosi come immagini deepfake a sfondo sessuale dei compagni di classe e registrazioni vocali e video fraudolenti.

L’aumento della tecnologia deepfake, in grado di creare immagini e registrazioni iperrealistiche ma completamente fabbricati, sta ora facilitando una nuova forma di bullismo difficile da affrontare.

A febbraio, è scoppiato uno scandalo quando gli educatori hanno scoperto che gli studenti della Beverly Vista Middle School di Beverly Hills, in California, stavano diffondendo foto deepfake generate dall’IA di corpi nudi con i volti reali di studentesse sovrapposti. Allo stesso modo, a novembre, gli studenti maschi della Westfield High School nel New Jersey hanno usato l’IA per produrre immagini sessualmente esplicite di oltre 30 compagne di classe senza il loro consenso.

Leggi anche:

• Come proteggere i bambini e i giovani dal cyberbullismo

Mentre nel 2021, Raffaela Spone, una madre che avrebbe usato foto e video deepfake espliciti per incolpare le rivali della squadra di cheerleading di sua figlia, è stata accusata di molestie.

Le scuole e persino gli esperti di IA si trovano di fronte a notevoli ostacoli nel rispondere a tali incidenti, riconoscendo però la loro responsabilità nel farlo. Claudio Cerullo, il fondatore di TeachAntiBullying.org, ha sottolineato la necessità di collaborare con le forze dell’ordine e di sviluppare nuove politiche per combattere queste minacce guidate dall’IA.

Per contrastare questa nuova forma di bullismo, sono state proposte anche misure normative come il Defiance Act, che mira a creare un diritto civile federale per le vittime di pornografia IA non consensuale.

Tuttavia, la conversazione diventa particolarmente complessa quando si considera il coinvolgimento di minorenni nella creazione o nella diffusione di contenuti deepfake. Secondo gli esperti, è necessario sviluppare una nuova alfabetizzazione digitale e una cittadinanza digitale per aiutare gli studenti a comprendere e utilizzare in modo responsabile questi potenti strumenti tecnologici.

Fonte

Ti potrebbe interessare:

• GPT-4 rende gli attacchi informatici più semplici e pericolosi

Segui guruhitech su:

• Google News: bit.ly/gurugooglenews
• Instagram: instagram.com/guruhitech_official
• Telegram: t.me/guruhitech
• Facebook: facebook.com/guruhitechweb
• Twitter: twitter.com/guruhitech1
• Threads: threads.net/@guruhitech_official
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• GETTR: gettr.com/user/guruhitech
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Esprimi il tuo parere!

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].