Oltre 400 app nascondevano generatori di deepfake sessuali: l’inchiesta che mette sotto accusa Apple, Google e Meta
Scarichi un’applicazione che promette di trasformare la fotografia del tuo gatto in un ritratto divertente. Oppure un assistente per imparare una lingua, un allenatore virtuale o un generatore di immagini con l’intelligenza artificiale. Tutto sembra normale: descrizione rassicurante, interfaccia semplice e presenza negli store ufficiali. Ma dietro centinaia di queste applicazioni si nascondeva un sistema per produrre deepfake sessuali e contenuti abusivi, utilizzando fotografie caricate dagli utenti.
Un’inchiesta pubblicata da WIRED il 2 novembre 2026, basata anche sulle analisi di ricercatori indipendenti, ha ricostruito una rete di oltre 400 app e domini collegati. I programmi apparivano come normali strumenti di intelligenza artificiale, ma in particolari circostanze caricavano un’interfaccia nascosta per generare immagini e video sessualmente espliciti, compresi contenuti che rappresentavano violenza. Le applicazioni sono state distribuite anche attraverso Google Play e App Store, mentre campagne pubblicitarie su Facebook e Instagram contribuivano a indirizzare gli utenti verso questi servizi.
L’app per le foto degli animali che nascondeva tutt’altro
Uno degli esempi più emblematici riguarda Viefur, presentata come applicazione capace di trasformare le fotografie degli animali domestici in ritratti creativi. All’apparenza, un servizio come tanti: caricavi la foto di un animale e ottenevi una versione fantasiosa, pagando eventualmente dei crediti virtuali.
Le verifiche hanno però mostrato che Viefur faceva parte di una rete molto più ampia. In determinate condizioni, al posto delle normali funzioni creative, l’app poteva aprire un’interfaccia web nascosta che permetteva di inserire fotografie di persone in scene sessualmente esplicite generate dall’IA. Alcuni modelli includevano persino rappresentazioni di aggressioni e minacce violente.
Non si trattava quindi di semplici filtri fotografici per adulti. Il problema centrale era la possibilità di utilizzare il volto o l’immagine di una persona reale senza il suo consenso, creando contenuti falsi potenzialmente impiegabili per umiliazioni, molestie, ricatti e altre forme di abuso.
Come riuscivano a ingannare i controlli di Apple e Google
La tecnica utilizzata è particolarmente insidiosa perché l’app non mostrava necessariamente lo stesso contenuto a tutti. Il ricercatore Paul Bouchaud di AI Forensics ha analizzato il funzionamento di alcuni programmi e scoperto che, durante l’avvio, potevano contattare un server remoto trasmettendo informazioni come la provenienza dell’utente, la lingua e identificativi tecnici.
Il server decideva quindi quale versione dell’interfaccia visualizzare: quella innocua oppure quella con gli strumenti per creare deepfake sessuali. Tra i possibili fattori capaci di attivare la versione nascosta figurava l’accesso all’app dopo aver cliccato una pubblicità sulle piattaforme Meta.
Questo meccanismo è una forma di bait-and-switch, cioè una sostituzione del contenuto mostrato. Un revisore può esaminare un’app apparentemente dedicata alle fotografie degli animali, mentre un altro utente, arrivato da una specifica inserzione, può vedere strumenti completamente diversi. Inoltre, il contenuto viene caricato da un sito remoto: i gestori possono modificarlo senza pubblicare necessariamente una nuova versione dell’app.
È importante chiarire che non tutte le applicazioni di intelligenza artificiale che elaborano foto sono pericolose. Il caso riguarda una rete specifica di programmi e domini individuata dai ricercatori, non l’intera categoria dei servizi fotografici basati sull’IA.
Più di 350.000 download e una rete di centinaia di domini
L’indagine non descrive un singolo programma isolato, ma un’operazione organizzata su larga scala. Il ricercatore Maël Le Touz di Infoblox ha identificato quasi 500 domini collegati, con elementi di codice condivisi e riferimenti incrociati. Alcune pagine, se aperte normalmente, mostravano soltanto una schermata nera, mentre il codice conteneva collegamenti agli strumenti nascosti.
L’attività sarebbe iniziata verso la fine del 2025, accelerando nella primavera del 2026. In alcuni periodi sarebbero stati registrati circa 30 nuovi siti o applicazioni alla settimana. A settembre, secondo i dati raccolti dai ricercatori, 27 app della rete risultavano ancora presenti su Google Play.
Le applicazioni esaminate avevano accumulato complessivamente oltre 350.000 download. Una di esse, chiamata DiffAI, aveva superato da sola i 100.000 download. Alcuni programmi risultavano inoltre classificati come adatti a tutte le età, un elemento che rende ancora più preoccupante la presenza di funzionalità nascoste legate a contenuti sessuali e violenti.
Pubblicità su Facebook e Instagram: il ruolo di Meta
Un elemento decisivo per scoprire la rete è stato il monitoraggio delle pubblicità diffuse su Facebook e Instagram. I ricercatori hanno analizzato migliaia di inserzioni che promuovevano contenuti deepfake sessuali e rimandavano alle applicazioni o ai siti collegati.
Alcune pubblicità includevano anche materiale sessualmente abusivo generato dall’IA che coinvolgeva minori, un aspetto di particolare gravità. L’esistenza di queste inserzioni non significa che ogni applicazione identificata avesse le stesse funzioni o contenuti, ma dimostra l’ampiezza e la pericolosità dell’ecosistema pubblicitario emerso dall’indagine.
Dopo aver ricevuto dai giornalisti l’elenco dei domini, Meta ha riferito di aver individuato oltre 3.000 inserzioni associate, circa due terzi delle quali erano già state rimosse. Successivamente la società ha comunicato interventi su 11.600 account pubblicitari, oltre 4.700 pagine aziendali, 5.200 utenti e 15.000 pagine, oltre al blocco di 209 applicazioni dalla pubblicità sulle proprie piattaforme.
La vicenda solleva una domanda difficile: come hanno potuto campagne di questo tipo continuare a circolare nonostante le regole dichiarate dalle piattaforme contro i deepfake abusivi? La presenza di falsi inserzionisti, app dall’aspetto legittimo e continui cambiamenti di dominio ha complicato il rilevamento.
Leggi anche:
Apple rimuove 19 app, Google ne elimina molte altre
Anche i gestori degli store hanno adottato misure dopo l’emersione del caso. Apple ha rimosso 19 applicazioni collegate alla rete dopo aver ricevuto informazioni dai giornalisti. L’azienda ha spiegato che, al momento della revisione iniziale, le app mostravano contenuti conformi alle regole; in seguito gli sviluppatori avrebbero cambiato il sito dal quale venivano caricati i contenuti, sostituendo quelli approvati con materiale pornografico.
Google aveva già rimosso la maggior parte delle app individuate prima della richiesta di commento di WIRED, compresa DiffAI. La società non ha fornito una risposta alla richiesta di commento citata nell’inchiesta. Le rimozioni rappresentano un intervento importante, ma non dimostrano che ogni copia, dominio o servizio collegato sia definitivamente scomparso.
La vicenda evidenzia un limite dei controlli tradizionali: l’approvazione di un’app nello store non garantisce che il suo comportamento rimanga invariato nel tempo, soprattutto quando parte dell’interfaccia viene fornita da server esterni.
Chi gestiva la rete di app? I sospetti su una società di Hong Kong
Le analisi hanno individuato elementi che collegherebbero la rete a sviluppatori di lingua cinese e a KeLing Technology Limited, una società registrata a Hong Kong. Tra gli indizi esaminati figurano domini, indirizzi email, dettagli tecnici del codice e collegamenti fra servizi apparentemente separati.
Secondo WIRED, dopo le richieste di chiarimento rivolte ai soggetti coinvolti, alcuni riferimenti pubblici alla società sarebbero stati rimossi. Le persone e le entità contattate non hanno fornito risposte alle domande dei giornalisti. I collegamenti descritti derivano dalle analisi investigative e non equivalgono, da soli, a un accertamento giudiziario di responsabilità.
Per i ricercatori, il modello operativo assomiglia a una vera attività commerciale: molte app intercambiabili, domini continuamente rinnovati, pubblicità e pagamenti integrati. Una struttura del genere può continuare a funzionare anche quando singole applicazioni vengono eliminate.
Perché i deepfake sessuali sono un pericolo anche per chi non usa queste app
Il rischio non riguarda soltanto chi installa i programmi. Una persona può diventare vittima di un deepfake intimo non consensuale semplicemente perché qualcuno utilizza una sua fotografia pubblica, un’immagine condivisa sui social o uno scatto ottenuto in altro modo.
Questi contenuti possono essere impiegati per molestare, screditare, intimidire o ricattare. La vittima può subire conseguenze psicologiche e reputazionali anche quando l’immagine è interamente sintetica. Il fatto che un video sia falso non rende meno reale il danno provocato dalla sua diffusione.
Particolarmente delicato è il coinvolgimento dei minori. Le rappresentazioni sessuali abusive generate artificialmente che coinvolgono bambini e adolescenti pongono gravi problemi di tutela e possono costituire materiale illecito. Non devono essere cercate, scaricate o condivise per curiosità o per tentare di documentare autonomamente un abuso.
Come proteggerti dalle app IA ingannevoli
Prima di installare un’applicazione che richiede fotografie personali, controlla chi è lo sviluppatore, quali permessi richiede, se esistono un sito e un’informativa privacy credibili e quali recensioni riportano gli utenti. Presta particolare attenzione ai programmi scoperti tramite inserzioni sensazionalistiche che promettono di trasformare il corpo o il volto di persone reali.
Non caricare immagini intime, fotografie di minori o documenti personali su servizi di cui non conosci affidabilità e finalità. Se un’app mostra improvvisamente funzionalità diverse da quelle pubblicizzate, interrompi l’utilizzo, evita di caricare nuove foto e segnala il programma allo store. La sola presenza su App Store o Google Play non è una garanzia assoluta.
Se hai già installato un’app sospetta, puoi disinstallarla, controllare eventuali abbonamenti o acquisti, revocare i permessi non necessari e verificare quali informazioni hai condiviso. Disinstallare l’app non garantisce la cancellazione dei dati già caricati sui server: quando possibile, richiedine la rimozione al fornitore e conserva la documentazione della richiesta.
Cosa fare se qualcuno crea un deepfake sessuale con la tua immagine
Se scopri un’immagine o un video intimo falsificato che ti ritrae, non affrontare la situazione condividendo ulteriormente il contenuto. Conserva gli elementi necessari a documentare l’accaduto, come indirizzi delle pagine, nomi degli account e schermate delle segnalazioni, evitando di riprodurre o diffondere materiale illecito.
Segnala il contenuto alla piattaforma che lo ospita e chiedine la rimozione. Se sono presenti minacce, ricatti, molestie o diffusione non consensuale, valuta una denuncia alla Polizia Postale o alle forze dell’ordine. Per immagini intime di adulti esistono anche servizi di supporto come StopNCII.org, che possono aiutare a contrastarne la circolazione sulle piattaforme aderenti.
In presenza di materiale che coinvolge minori, rivolgiti alle autorità e ai canali di segnalazione specializzati: non scaricare né inoltrare i file. Se la situazione provoca ansia, paura o isolamento, cercare supporto da persone fidate e professionisti può essere altrettanto importante quanto la rimozione tecnica.
La lezione dell’inchiesta: il problema non è soltanto l’intelligenza artificiale
La scoperta di oltre 400 app e domini collegati mostra come gli strumenti generativi possano essere inseriti in un sistema organizzato di distribuzione, pubblicità e monetizzazione degli abusi. Il problema non è semplicemente la capacità di creare immagini artificiali, ma l’uso di quella tecnologia per violare il consenso e aggirare i controlli.
Apple, Google e Meta hanno annunciato o descritto interventi contro la rete, ma l’inchiesta segnala che applicazioni e inserzioni simili continuavano ad apparire anche durante le verifiche giornalistiche. Per proteggere davvero gli utenti serviranno controlli continuativi sui contenuti caricati da remoto, maggiore trasparenza sugli sviluppatori e sistemi più efficaci per fermare la diffusione dei deepfake abusivi.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.