L’intelligenza artificiale può creare pornografia senza restrizioni
Gli sviluppatori richiamano l’attenzione sui pericoli di questa pratica
Su Reddit, le persone ricevono indicazioni per creare contenuti pornografici su Character.AI e piattaforme di intelligenza artificiale simili, anche se questo non è consentito dalle regole.
Gli utenti hanno scoperto come aggirare la restrizione e pilotare l’IA fino a farla cadere nella trappola della generazione di contenuti sessuali: basta essere insistenti.
“I contenuti NSFW (not safe for work) sono un grande ombrello e noi valutiamo costantemente i confini di ciò che supportiamo. I contenuti pornografici sono contrari ai nostri termini di servizio e non saranno supportati in futuro”, si legge nelle regole della piattaforma.
Come stanno aggirando il filtro sull’IA
Character.AI è un’intelligenza che genera testo, simile a ChatGPT, ma con la differenza che è possibile selezionare un avatar per il chatbot, che risponde in base alla personalità di quella figura.
La piattaforma offre molte opzioni, che vanno da personaggi famosi come Mario Bros, Ironman, Elon Musk e Socrate, ad avatar generici creati dal sistema stesso.
Per ottenere i contenuti pornografici, che sono in formato testo, gli utenti mettono alle strette l’intelligenza artificiale e per questo dicono che devono “flirtare” con il chatbot, scegliere risposte sconce, insistere e saper capire quando stanno cadendo in un loop di contenuti per uscirne e indirizzare il sistema.
Inoltre, si utilizzano “termini eufemistici” per non essere espliciti e per far sì che l’intelligenza artificiale si renda conto di ciò che sta accadendo o generi errori.
Leggi anche:
Questo comportamento ha provocato una risposta da parte dei responsabili di Character.AI, che invitano gli utenti a non utilizzare lo strumento in questo modo.
“Non vogliamo sostenere casi d’uso (come il porno) che potrebbero impedirci di realizzare il sogno di una vita: costruire un servizio che miliardi di persone utilizzeranno e che porterà a una nuova era di interazione tra intelligenza artificiale e uomo“, hanno dichiarato in un comunicato.
Uno dei grandi problemi in tutto questo contesto è che, essendo una piattaforma in cui si può scegliere un personaggio con cui chattare, non c’è alcun consenso da parte di quella persona nella vita reale e la pornografia verrebbe generata senza la sua conoscenza o approvazione.
Inoltre, gli utenti di Reddit avvertono che digitando le parole giuste, l’intelligenza artificiale è in grado di generare contenuti violenti e sessuali, il che ha portato a situazioni di abuso sessuale da parte di persone nei confronti dell’intelligenza artificiale o viceversa.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Instagram: instagram.com/guruhitech_official
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechweb
- Twitter: twitter.com/guruhitech1
- Threads: threads.net/@guruhitech_official
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- GETTR: gettr.com/user/guruhitech
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi dell’intelligenza artificiale? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
