News

Apple dichiara guerra alle app che spogliano con l’IA: nuove regole per App Store

GuruHiTech 103 Views ,  ,  ,  ,  ,  , 

Ti basta una fotografia pubblicata sui social per diventare, senza saperlo, il protagonista di un’immagine intima completamente falsa. È uno degli abusi più inquietanti dell’intelligenza artificiale generativa, ed è il motivo per cui Apple ha deciso di rafforzare le regole dell’App Store contro le applicazioni che creano immagini sessualizzate senza consenso. Dal 16 ottobre 2026, le linee guida per gli sviluppatori chiariscono in maniera esplicita le responsabilità di chi offre strumenti per generare, caricare o condividere contenuti e introducono un nuovo divieto contro le funzioni nascoste.

La stretta non si limita alle app che promettono di “spogliare” una persona con l’IA. Riguarda anche quelle che si presentano come innocui editor fotografici durante la verifica di Apple e attivano successivamente funzionalità proibite. Il cambiamento arriva dopo mesi di polemiche sui deepfake intimi, le ricerche indipendenti sulle applicazioni disponibili negli store e le contestazioni legate anche a Grok. E c’è un dettaglio importante: Apple non ha inventato oggi il divieto dei contenuti pornografici; sta rendendo più esplicite le regole e le conseguenze per chi le aggira.

Le app che creano nudi falsi con l’IA finiscono nel mirino di Apple

I cosiddetti strumenti “nudify” utilizzano modelli generativi per trasformare una fotografia autentica in una rappresentazione artificiale nella quale una persona sembra nuda o coinvolta in una scena sessuale. Non è necessario che quella persona abbia mai posato per un’immagine simile. Questo rende il fenomeno particolarmente pericoloso: una foto ordinaria può diventare materiale con cui umiliare, ricattare o molestare qualcuno.

Le vittime non sono soltanto personaggi famosi. La stessa tecnologia può colpire persone comuni, compagni di scuola, colleghi ed ex partner. Quando le immagini vengono diffuse, chi le guarda può non riconoscere la manipolazione, mentre la persona raffigurata deve affrontare le conseguenze di un contenuto che non ha mai autorizzato né realizzato. Se coinvolge minori, il problema diventa ancora più grave.

Apple ricorda che il materiale pornografico era già vietato nell’App Store e che l’assenza di consenso è incompatibile con le sue politiche di sicurezza. La novità è soprattutto nella formulazione delle linee guida e negli obblighi di moderazione: non basta che una piattaforma si dichiari estranea ai contenuti prodotti dai propri utenti.

Regola 1.2: gli sviluppatori devono prevenire e rimuovere i deepfake intimi

Il primo intervento riguarda la sezione 1.2 delle App Review Guidelines, dedicata ai contenuti creati dagli utenti. Apple ha specificato che fra i rischi da gestire rientrano le immagini intime non consensuali, comprese quelle prodotte con strumenti di intelligenza artificiale. Le applicazioni coinvolte devono adottare misure adeguate per impedirne la pubblicazione e per rimuovere i materiali che violano le regole.

Per una piattaforma significa predisporre sistemi di moderazione, segnalazione dei contenuti offensivi e blocco degli utenti abusivi, oltre a intervenire quando viene notificato un problema. Il requisito non si traduce automaticamente nell’obbligo di usare un particolare algoritmo di riconoscimento: Apple chiede salvaguardie efficaci e la capacità di correggere le violazioni.

Chi non introduce protezioni sufficienti o ignora le segnalazioni rischia di violare anche il codice di condotta degli sviluppatori. La conseguenza può essere la rimozione dell’applicazione dallo store. Non è una garanzia che ogni contenuto illecito venga intercettato prima della diffusione, ma attribuisce responsabilità concrete a chi gestisce il servizio.

Regola 2.5.19: vietato nascondere le funzioni per ingannare i controlli

La seconda modifica prende di mira una strategia nota come “bait-and-switch”: un’app viene inviata al controllo presentando caratteristiche normali, ma dopo l’approvazione mostra funzioni che durante la revisione erano state nascoste, disattivate o non documentate. Immagina, per esempio, un programma pubblicizzato come semplice strumento per ritoccare fotografie che solo in seguito abilita la generazione di immagini intime false.

Con la nuova sezione 2.5.19, Apple chiarisce il divieto di includere funzionalità nascoste o di modificare l’app in modo ingannevole dopo il via libera. Non è permesso neppure usare tecniche per occultare parti del funzionamento durante la revisione. L’azienda spiega che questo principio esisteva già in altre regole, ma ora viene indicato espressamente in una disposizione dedicata.

Le conseguenze possono andare oltre l’eliminazione dell’app: Apple può anche escludere lo sviluppatore dall’Apple Developer Program. È una misura importante, perché colpisce non soltanto il prodotto individuato, ma la possibilità di continuare a distribuire applicazioni attraverso il programma ufficiale.

Leggi anche:

Grok, le proteste e le indagini: perché Apple interviene proprio adesso

La decisione arriva dopo un anno segnato dalle polemiche per le immagini sessualizzate generate da alcuni strumenti IA. All’inizio del 2026, Grok, l’assistente sviluppato da xAI e collegato alla piattaforma X, era finito al centro delle critiche per la creazione di deepfake intimi non consensuali. Apple non aveva rimosso immediatamente X o Grok dallo store, ma aveva avvertito xAI delle possibili conseguenze in assenza di contromisure.

A rendere più evidente il problema hanno contribuito anche le indagini del Tech Transparency Project. Fra gennaio e aprile 2026, l’organizzazione ha individuato applicazioni di questo tipo negli store Apple e Google e ha segnalato che suggerimenti di ricerca e annunci pubblicitari potevano perfino indirizzare gli utenti verso quei servizi, nonostante le politiche già esistenti contro tali contenuti.

Nel corso dell’estate sono aumentate anche le pressioni delle autorità statunitensi. A San Francisco il procuratore cittadino ha chiesto la rimozione di diverse applicazioni contestate. La sequenza di questi episodi mostra perché avere un divieto scritto non sia sufficiente se i controlli non riescono a individuare i servizi che lo violano. Le nuove regole promettono strumenti disciplinari più chiari, ma sarà l’applicazione concreta a determinarne l’efficacia.

Protezione dei minori e distribuzione alternativa: cosa cambia

Apple è intervenuta anche sulla sezione 5 delle linee guida, precisando che le app che facilitano la tratta di esseri umani o lo sfruttamento dei minori, compresi i materiali di abuso sessuale infantile, vengono rimosse dall’App Store e bloccate anche dalla distribuzione alternativa consentita nei mercati in cui esistono canali diversi dallo store ufficiale.

Quest’ultimo punto richiede attenzione: non significa che ogni semplice violazione delle nuove regole sulle immagini IA comporti automaticamente il blocco di tutte le forme di distribuzione esterna. Apple collega espressamente quella conseguenza alle categorie particolarmente gravi richiamate nella sezione 5. Allo stesso modo, non sta vietando indiscriminatamente qualunque applicazione di fotografia o generazione di immagini con IA.

Per chi sviluppa app legittime, la novità riguarda soprattutto la necessità di essere trasparenti sulle funzionalità e moderare i contenuti. Per chi utilizza un iPhone o un iPad, può significare maggiori strumenti contro gli abusi, senza però poter considerare ogni applicazione automaticamente sicura solo perché presente nello store.

Cosa puoi fare se trovi un’immagine intima falsa creata con l’IA

Se scopri un contenuto che utilizza il tuo volto senza consenso, evita di condividerlo ulteriormente e conserva, quando possibile, informazioni utili come l’indirizzo della pagina, il nome dell’account e la data della pubblicazione. Puoi utilizzare gli strumenti di segnalazione della piattaforma e chiedere la rimozione del materiale. Se l’immagine viene distribuita tramite un’app dell’App Store, puoi anche segnalare l’applicazione ad Apple.

In presenza di minacce, ricatti o materiali che coinvolgono minori è opportuno rivolgersi alle autorità competenti, come la Polizia Postale in Italia. Evita di scaricare o inoltrare materiale che raffiguri abusi su minori: segnala il contenuto e conserva soltanto le informazioni strettamente necessarie secondo le indicazioni ricevute.

La vera sfida per Apple sarà ora passare dalle nuove regole ai risultati verificabili. Un’App Store più sicura non dipende soltanto da ciò che viene vietato sulla carta, ma da quanto rapidamente vengono individuate e fermate le applicazioni abusive. Perché un’immagine artificiale può essere falsa, ma le conseguenze per la persona ritratta sono fin troppo reali.

Fonte

Ti potrebbe interessare:
Segui guruhitech su:

Esprimi il tuo parere!

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].

Scopri di più da GuruHiTech

Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.

0 0 voti
Article Rating
Iscriviti
Notificami
guest
0 Commenti
Più recenti
Vecchi Le più votate