Nuovo algoritmo identifica i deepfake e riconosce anche l’IA che li ha creati

La lotta contro i deepfake compie un importante passo avanti grazie a un nuovo sistema sviluppato dai ricercatori della University of California, Riverside. Il progetto, chiamato SAGA, è stato progettato per individuare i video generati con l’intelligenza artificiale e, aspetto ancora più innovativo, per risalire al modello di IA utilizzato per crearli.

Realizzato con il contributo di Google DeepMind e YouTube, il sistema punta a offrire uno strumento sempre più efficace per contrastare la diffusione di contenuti manipolati, un fenomeno che continua a crescere insieme alla popolarità delle tecnologie di generazione automatica dei video.

Come funziona il sistema SAGA

Il cuore del progetto è la capacità di analizzare le tracce visive lasciate dai generatori di video basati sull’intelligenza artificiale. Ogni modello, infatti, produce caratteristiche specifiche durante il processo di generazione che possono essere interpretate come una sorta di firma digitale.

A differenza delle immagini statiche, i video contengono anche informazioni legate al movimento degli oggetti da un fotogramma all’altro. Per questo motivo, SAGA esamina non solo i singoli frame, ma anche l’evoluzione temporale delle scene attraverso particolari firme di attenzione temporali, consentendo un’analisi molto più approfondita.

Leggi anche:

• In Cina nasce il mercato dell’identità digitale: il proprio volto si può affittare all’intelligenza artificiale

L’insieme di queste informazioni permette al sistema di costruire una vera e propria “impronta digitale” associata a ciascun modello di intelligenza artificiale, rendendo possibile identificarne l’origine con un elevato livello di precisione.

Test su 19 modelli di generazione video

Durante la fase di sperimentazione, SAGA è stato messo alla prova su 19 differenti sistemi di generazione video basati sull’intelligenza artificiale.

I risultati hanno dimostrato che il software è in grado di stabilire se un filmato sia autentico oppure generato artificialmente. Inoltre, riesce a distinguere se il contenuto sia stato creato partendo da un prompt testuale o da un’immagine e, in molti casi, a identificare anche l’azienda sviluppatrice del generatore utilizzato.

Questa tecnologia potrebbe rappresentare un importante supporto per piattaforme online, ricercatori e organizzazioni impegnate nella verifica dell’autenticità dei contenuti digitali, contribuendo a limitare la diffusione di video manipolati e a rafforzare gli strumenti di contrasto alla disinformazione.

Fonte

Ti potrebbe interessare:

• Microsoft prepara il nuovo Copilot: tutte le funzioni di intelligenza artificiale riunite in un’unica piattaforma

Segui guruhitech su:

• Google News: bit.ly/gurugooglenews
• Telegram: t.me/guruhitech
• Facebook: facebook.com/guruhitechfb
• Instagram: instagram.com/guruhitech_official/
• X (Twitter): x.com/guruhitech1
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Esprimi il tuo parere!

Ti è piaciuta questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].