Google e Apple rimuovono app IA che generano nudità dagli store
Google e Apple hanno rimosso decine di applicazioni basate su intelligenza artificiale dai loro store ufficiali dopo la pubblicazione di un’indagine che ha messo in luce la presenza di strumenti in grado di generare nudità e contenuti sessualmente espliciti, in violazione delle politiche interne di entrambe le aziende.
La decisione è arrivata in seguito a un report dell’organizzazione Tech Transparency Project (TTP), che ha documentato la diffusione di app capaci di creare immagini o video manipolati, inclusi deepfake a sfondo sessuale, disponibili sia sul Play Store che sull’App Store.
L’indagine e i numeri delle app rimosse
Secondo il rapporto, al momento dell’analisi erano presenti almeno 55 applicazioni di questo tipo nello store di Google e 47 su quello di Apple. Dopo la segnalazione, Apple ha confermato la rimozione di 28 app, mentre Google ha comunicato la sospensione di numerosi servizi, che secondo TTP ammontano a 31 applicazioni.
Le app individuate consentivano di generare contenuti partendo da richieste testuali oppure di sovrapporre volti reali su corpi diversi, sfruttando tecniche di intelligenza artificiale sempre più accessibili. In molti casi, bastava cercare termini come “nudify” o “spogliarsi” per trovarle facilmente sugli store ufficiali.
Il problema dell’accesso ai minori
Uno degli aspetti più delicati riguarda la disponibilità di queste app per i minori. Alcune risultavano classificate come adatte a utenti dai 13 anni in su sul Play Store e addirittura dai 9 anni sull’App Store, aprendo la possibilità che bambini e adolescenti accedessero a strumenti in grado di creare immagini sessualizzate senza controlli efficaci.
Tra le applicazioni più popolari citate nel report figura DreamFace, che ha superato i 10 milioni di download. Nonostante nei termini di servizio venga vietata la creazione di contenuti sessuali, secondo TTP l’app permetteva comunque di generare video con nudità a partire da immagini caricate dagli utenti, anche nella versione gratuita.
Leggi anche:
Un business milionario nonostante i divieti
L’indagine ha evidenziato anche la dimensione economica del fenomeno. In base ai dati di AppMagic citati da TTP, l’insieme di queste applicazioni avrebbe raggiunto circa 705 milioni di download, generando 117 milioni di dollari di ricavi.
L’organizzazione sottolinea come, nonostante i divieti formali, sia Google che Apple abbiano comunque beneficiato economicamente attraverso le commissioni sugli acquisti in-app di servizi che violavano le regole.
Le reazioni delle aziende e i prossimi controlli
Dopo la diffusione del report, entrambe le aziende hanno richiesto a TTP l’elenco completo delle app segnalate. Apple ha confermato pubblicamente le rimozioni, mentre Google ha dichiarato di aver avviato una revisione approfondita del proprio store per rafforzare i sistemi di controllo.
Il caso si inserisce in una preoccupazione crescente a livello globale sull’uso dell’intelligenza artificiale per la creazione di contenuti espliciti e sui rischi legati alla tutela delle persone, in particolare dei minori. Un tema che sta spingendo sempre più piattaforme a rivedere le proprie politiche e i meccanismi di moderazione.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.