Anthropic vuole smascherare le IA fasulle: FlashProve verifica il modello con la matematica
Paghi per utilizzare un modello di intelligenza artificiale avanzato, ma chi ti garantisce che dietro le risposte ci sia davvero quello che hai scelto? Un fornitore potrebbe sostituirlo con un modello più economico senza avvisarti, oppure un servizio potrebbe dichiarare di aver fatto controllare un documento a un’IA particolarmente sofisticata senza averla mai utilizzata. Anthropic vuole rendere verificabili queste promesse con FlashProve, un sistema che usa la crittografia per dimostrare quale modello abbia effettivamente prodotto una risposta.
Il progetto, presentato all’inizio di novembre 2026, è stato accompagnato dalla pubblicazione di codice e documentazione tecnica open source. Non si tratta di una nuova funzione già disponibile in Claude: gli stessi ricercatori lo descrivono come un progresso intermedio, con problemi ancora da risolvere prima di un utilizzo su larga scala. L’idea, però, potrebbe cambiare il modo in cui aziende, sviluppatori e utenti si fidano dei servizi di IA.
Il problema nascosto dietro ogni risposta dell’intelligenza artificiale
Quando apri un chatbot e scegli un determinato modello, normalmente devi fidarti dell’etichetta mostrata sullo schermo. Non puoi controllare dall’esterno quali pesi del modello siano stati realmente utilizzati per produrre la risposta. Questo diventa ancora più importante quando accedi all’IA attraverso piattaforme che rivendono servizi di diversi produttori.
Un intermediario poco trasparente potrebbe far pagare una richiesta come se fosse stata elaborata da un modello premium e inoltrarla invece a un sistema meno costoso. Il risultato potrebbe sembrare convincente, ma non sarebbe il servizio per il quale hai pagato. La stessa difficoltà riguarda i test indipendenti: come dimostrare che il modello esaminato da un laboratorio sia identico a quello successivamente distribuito ai clienti?
FlashProve nasce per rispondere a questa domanda. Il suo scopo è permettere una verifica matematica dell’identità del modello, anziché affidarsi alla reputazione o alla semplice dichiarazione del fornitore.
Come funziona FlashProve: l’impronta digitale del modello
Il sistema prevede che il produttore pubblichi un’impronta crittografica associata ai pesi del modello, cioè ai parametri numerici che ne determinano il comportamento. Questa impronta funziona come un riferimento pubblico: permette di identificare il modello senza rivelarne i parametri interni, che possono costituire un importante segreto industriale.
Quando il modello elabora una richiesta, il fornitore genera una prova crittografica collegata al calcolo eseguito e all’impronta pubblicata. Chi riceve la risposta può controllare la prova e verificare che l’operazione sia coerente con il modello dichiarato. Non deve quindi conoscere i pesi segreti né ricostruire l’intero processo di generazione.
Alla base c’è una famiglia di tecniche chiamate zkSNARK, ovvero prove crittografiche succinte a conoscenza zero. In parole semplici, consentono di dimostrare che un determinato calcolo è stato eseguito correttamente senza svelare tutte le informazioni utilizzate per farlo.
È un po’ come ricevere un documento accompagnato da una firma verificabile: non devi conoscere tutti i dettagli del processo che l’ha prodotto per controllarne l’autenticità. La differenza è che FlashProve punta a certificare l’esecuzione del modello, non soltanto il nome scritto accanto alla risposta.
La verifica potrebbe avvenire in pochi secondi
Uno degli obiettivi tecnici è rendere la prova molto più leggera da verificare rispetto al calcolo originale dell’IA. Secondo la descrizione del progetto, la verifica dovrebbe poter essere eseguita rapidamente anche su un dispositivo comune, senza disporre dei server necessari a far funzionare un grande modello linguistico.
Questo aspetto è decisivo: se controllare ogni risposta richiedesse la stessa potenza di calcolo necessaria a generarla, il sistema avrebbe un’utilità limitata. Resta però da capire quanto costi produrre le prove quando un servizio deve rispondere a milioni di richieste al giorno. La ricerca non equivale ancora alla dimostrazione di un’infrastruttura commerciale pronta per ogni scenario.
Leggi anche:
Non è una tecnologia per identificare gli utenti
Il termine «impronta digitale» può trarre in inganno. FlashProve non nasce per riconoscere la persona che scrive a un chatbot, tracciarne le abitudini o identificare il proprietario di un account. L’impronta riguarda il modello di intelligenza artificiale e serve come riferimento per verificarne l’identità.
Non va nemmeno confusa con i sistemi che cercano di stabilire se un testo sia stato scritto da un’IA. Anthropic ha già descritto separatamente tecniche di watermarking per contrassegnare contenuti generati dai suoi modelli. FlashProve affronta un problema diverso: provare che una specifica risposta sia stata prodotta usando un determinato modello, attraverso una verifica crittografica.
Dalla cybersicurezza alle aziende: perché potrebbe essere utile
Le applicazioni potenziali vanno ben oltre le normali conversazioni. Un’azienda potrebbe voler dimostrare che il proprio codice è stato analizzato da un modello di IA specializzato nella ricerca di vulnerabilità. Un’altra potrebbe aver bisogno di certificare che un documento importante sia stato esaminato dal sistema previsto da una procedura interna.
Anche auditor, ricercatori e autorità di controllo potrebbero utilizzare prove verificabili per controllare alcune dichiarazioni dei fornitori. Per esempio, diventerebbe più difficile sostituire di nascosto un modello durante una valutazione delle prestazioni e poi presentarne un altro ai clienti.
Il sistema potrebbe inoltre contribuire a individuare manomissioni in servizi compromessi, purché le prove e l’infrastruttura di verifica siano correttamente implementate. Non impedirebbe automaticamente tutti gli attacchi informatici, ma offrirebbe uno strumento aggiuntivo per controllare l’autenticità delle elaborazioni.
Quando arriverà FlashProve su Claude?
Per il momento Anthropic non ha annunciato una data di disponibilità per gli utenti né un piano definitivo di integrazione in Claude. Il codice e la documentazione sono stati condivisi affinché altri ricercatori possano studiare il metodo, verificarlo e contribuire a migliorarlo.
Restano questioni pratiche importanti, tra cui i costi di generazione delle prove, le prestazioni su modelli molto grandi e l’integrazione nei servizi commerciali. Per questo sarebbe prematuro considerare FlashProve una protezione già attiva sulle risposte che ricevi oggi.
La prospettiva resta significativa: se la tecnologia maturerà, scegliere un modello di IA potrebbe non richiedere più un atto di fiducia cieca. Il fornitore dovrebbe poter dimostrare matematicamente che stai davvero usando il sistema che dichiara di offrirti.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.