Il MIT impedisce all’intelligenza artificiale di modificare le fotografie
PhotoGuard modifica e distorce le immagini in modo che l’intelligenza artificiale non possa generare modifiche realistiche
Con gli strumenti di intelligenza artificiale che sono stati creati, come DALL-E 2, Stable Diffusion, tra gli altri, sono emersi anche abusi come la generazione di modifiche fotografiche non autorizzate con l’intenzione di creare contenuti erotici o sessuali da diffondere su internet.
Di fronte a questo problema, un gruppo di ricercatori del Massachusetts Institute of Technology (MIT) ha creato uno strumento che protegge le immagini da alterazioni. PhotoGuard, come viene chiamato questo sistema, crea una versione delle fotografie che ha una caratteristica nascosta che genera una lettura errata dell’intelligenza artificiale e di conseguenza la modifica desiderata viene parzialmente o completamente rovinata.
Invece di presentare la modifica finale con le caratteristiche desiderate dall’attaccante che cerca di creare una modifica non autorizzata, il risultato finale può essere completamente diverso dalla richiesta effettuata dall'”avversario” o può risultare in un’immagine grigia in cui sono evidenziate solo le caratteristiche che si desiderava includere nel risultato finale della modifica.
Secondo il Laboratorio di Scienze Informatiche e Intelligenza Artificiale del MIT, l’obiettivo del modello non è quello di evitare completamente la modifica delle immagini mediante l’intelligenza artificiale (poiché ci sono altri metodi), ma di aumentare il costo delle modifiche generate con l’IA e di fare in modo che le modifiche, il cui fascino è il realismo, perdano questa caratteristica.
“In questo modo, le persone possono continuare a condividere le loro immagini personali con un livello di sicurezza aggiuntivo contro la manipolazione non desiderata”, si legge nel documento finale della ricerca su PhotoGuard.
Leggi anche:
Così come un’intelligenza artificiale comprende un’immagine attraverso i suoi pixel per poi modificarla, PhotoGuard lavora affinché ciò non sia possibile. L’obiettivo del programma di protezione è quello di modificare alcuni pixel in modo che non possano essere interpretati correttamente da un’IA, quindi ogni volta che si tenta di cambiare l’aspetto dell’immagine, questa mostra versioni difettose. In pratica, viene aggiunto un filtro per impedire all’intelligenza artificiale di riconoscere ciò che sta “vedendo”.
Sebbene inizialmente questa protezione abbia dimostrato di essere utile ed efficace contro la modifica non desiderata delle immagini, i ricercatori responsabili del progetto di PhotoGuard ritengono che il loro sistema abbia ancora molto da migliorare poiché offre anche versioni modificate delle immagini (con lo stile desiderato dagli aggressori), ma con una qualità inferiore o con “rumore” nell’immagine.
“Una delle limitazioni del processo di immunizzazione (contro la modifica tramite IA) è che l’immagine può essere sottoposta a nuove trasformazioni e tecniche di purificazione del rumore”, affermano i creatori di PhotoGuard. “Gli attori malintenzionati potrebbero cercare di rimuovere gli effetti tagliando l’immagine, aggiungendo filtri, ruotandola o in altri modi”, si legge nel documento di ricerca.
Leggi anche:
D’altra parte, gli specialisti ammettono che, anche se il loro metodo potrebbe essere efficace in questa prima fase del loro lavoro, potrebbe non esserlo nelle versioni successive dei modellidi intelligenza artificiale che potrebbero essere introdotti sul mercato in futuro.
“Non garantiamo che questo metodo sarà efficace in futuro”, si afferma. Tuttavia, viene offerta una possibile soluzione: che sia le aziende che creano le intelligenze artificiali, sia le piattaforme di pubblicazione, sia il team di PhotoGuard condividano informazioni che consentano di offrire il servizio di immunizzazione a qualsiasi immagine e di generare compatibilità tra le piattaforme per garantire l’efficacia della proposta.
In effetti, uno dei problemi che il team di lavoro deve affrontare è che non ha un modo per offrire l’immunizzazione in modo commerciale e in modo che chiunque possa applicarla alle proprie immagini.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Instagram: instagram.com/guruhitech_official
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechweb
- Twitter: twitter.com/guruhitech1
- Threads: threads.net/@guruhitech_official
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- GETTR: gettr.com/user/guruhitech
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Credi che durerà a lungo questo nuovo strumento realizzato dal MIT? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].