SynthID di Google aggirato: sviluppatore mostra come rimuovere le filigrane AI

La tecnologia SynthID di Google è stata progettata per identificare immagini generate dall’intelligenza artificiale, inserendo filigrane invisibili pensate per distinguere i contenuti artificiali da quelli reali. Tuttavia, un recente esperimento dimostra che questo sistema potrebbe non essere così solido come previsto.

Uno sviluppatore indipendente, Alosh Denny, ha infatti mostrato un metodo per individuare e rimuovere queste filigrane, mettendo in discussione l’efficacia del sistema. Il suo lavoro evidenzia come anche tecnologie avanzate possano essere analizzate e aggirate con strumenti adeguati e competenze tecniche mirate.

Come funziona l’aggiramento di SynthID

Il processo sviluppato da Denny parte da un’analisi approfondita delle immagini generate con AI. Dopo aver elaborato numerose immagini in bianco e nero tramite strumenti come Gemini, lo sviluppatore è riuscito a identificare le coordinate delle filigrane invisibili inserite da SynthID.

Attraverso tecniche di analisi spettrale, queste informazioni sono state organizzate in una sorta di “dizionario” di riferimento. Questo database consente a uno script di individuare e sottrarre i segnali della filigrana nelle aree interessate, senza compromettere in modo evidente la qualità visiva dell’immagine.

Leggi anche:

• Google porta su Windows una ricerca rapida stile Spotlight

Secondo quanto dichiarato dall’autore, il metodo è in grado di rilevare le filigrane nel 90% dei casi. Dopo la rimozione, la qualità dell’immagine resta elevata, con un valore di PSNR pari a circa 43 dB, indice di una perdita minima di informazioni visive.

Limiti tecnici e variabili del sistema

Nonostante l’efficacia dimostrata, il metodo presenta alcune difficoltà. La principale riguarda il fatto che le frequenze delle filigrane SynthID variano in base alla risoluzione dell’immagine. Questo implica la necessità di creare dizionari specifici per ogni formato, rendendo il processo meno immediato e più dipendente dal contesto.

Per facilitare l’utilizzo della tecnica, lo sviluppatore ha già reso disponibili alcuni strumenti, pubblicando uno script accompagnato da dizionari per risoluzioni come 1024×1024 e 1536×2816 pixel. Questo rende il metodo replicabile da altri utenti con competenze tecniche simili.

Il caso solleva interrogativi importanti sulla sicurezza delle tecnologie di watermarking AI e sulla loro reale capacità di contrastare la diffusione di contenuti generati artificialmente. Con l’evoluzione sempre più rapida dell’intelligenza artificiale, anche i sistemi di controllo dovranno adattarsi per restare efficaci.

Fonte

Ti potrebbe interessare:

• Gemini evolve: Google introduce simulazioni interattive e modelli 3D

Segui guruhitech su:

• Google News: bit.ly/gurugooglenews
• Telegram: t.me/guruhitech
• Facebook: facebook.com/guruhitechfb
• Instagram: instagram.com/guruhitech_official/
• X (Twitter): x.com/guruhitech1
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Esprimi il tuo parere!

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].