Israele vuole influenzare ChatGPT? Il piano da 46,5 milioni che apre una nuova battaglia sull’IA
Israele ha davvero speso decine di milioni di dollari per manipolare ChatGPT, Gemini e Claude? La risposta è più complessa di quanto suggeriscano alcuni titoli circolati online. Non risultano pagamenti effettuati a OpenAI, Google o Anthropic affinché modificassero direttamente i propri chatbot. Nessuno, almeno sulla base delle informazioni pubblicamente disponibili, ha comprato un pulsante capace di decidere cosa debbano rispondere le intelligenze artificiali.
Esiste però un fatto concreto e documentato che merita attenzione: il governo israeliano ha finanziato una vasta campagna di comunicazione digitale affidata a Clock Tower X, società guidata da Brad Parscale, figura nota negli Stati Uniti per il suo precedente ruolo nella macchina digitale di Donald Trump.
E all’interno della strategia compare un obiettivo particolarmente interessante: realizzare siti e contenuti capaci di ottenere quelli che nei documenti vengono definiti “GPT framing results on GPT conversations”.
In termini meno tecnici significa cercare di fare in modo che determinati contenuti e determinate interpretazioni diventino sufficientemente visibili sul Web da poter essere intercettati anche dai sistemi di intelligenza artificiale.
La differenza è enorme. Non si tratta di pagare ChatGPT per cambiare risposta, ma di provare a modificare l’ecosistema informativo dal quale ChatGPT e altri sistemi possono ricavare informazioni.
Ed è proprio questo aspetto a rendere la vicenda molto più interessante di un semplice titolo sensazionalistico.
Da dove arrivano i 46,5 milioni di dollari
La cifra di 46,5 milioni di dollari non rappresenta un pagamento diretto alle aziende che sviluppano i chatbot.
È importante chiarirlo subito perché altrimenti si rischia di raccontare una storia diversa da quella documentata.
Clock Tower X ha operato nell’ambito di una campagna commissionata attraverso Havas Media per conto dello Stato di Israele e registrata negli Stati Uniti secondo le norme del Foreign Agents Registration Act, il FARA.
Il progetto comprende molte attività: produzione di contenuti, campagne pubblicitarie, social media, analisi dei dati, distribuzione online, ottimizzazione sui motori di ricerca e strategie rivolte soprattutto alle fasce più giovani del pubblico.
Una parte rilevante dell’operazione prevedeva decine di milioni di impression digitali ogni mese.
L’intelligenza artificiale rappresentava quindi uno degli elementi della strategia, non necessariamente l’intero progetto.
Dire che “Israele ha pagato 46,5 milioni di dollari per manipolare ChatGPT” è pertanto una semplificazione.
Ma sarebbe altrettanto sbagliato liquidare tutto come una bufala.
Nei documenti compare realmente l’intenzione di costruire siti e contenuti con l’obiettivo di influenzare il modo in cui le conversazioni basate sui sistemi GPT vengono inquadrate.
Ed è qui che emerge il problema.
Perché non è necessario avere accesso ai server di OpenAI per cercare di influenzare una risposta generata da un’intelligenza artificiale.
Potrebbe essere sufficiente controllare una parte delle informazioni che il sistema trova quando cerca sul Web.
Non serve hackerare ChatGPT: basta lavorare sulle sue fonti
Per capire perché una strategia del genere possa avere senso bisogna abbandonare l’idea che un chatbot sia una gigantesca enciclopedia completamente autonoma.
I modelli di intelligenza artificiale generativa utilizzano informazioni provenienti da enormi quantità di dati. Inoltre, sempre più servizi possono consultare Internet in tempo reale prima di formulare una risposta.
Quando chiediamo a un chatbot informazioni su un evento recente, il sistema può cercare pagine Web, confrontare diverse fonti e sintetizzarle.
Ed è proprio in quel passaggio che nasce un nuovo spazio per l’influenza.
Immaginiamo che sul Web vengano pubblicati decine o centinaia di articoli costruiti professionalmente attorno allo stesso tema.
Non necessariamente devono contenere informazioni completamente false.
Potrebbero utilizzare dati autentici, statistiche reali e documenti ufficiali. Ma potrebbero scegliere sistematicamente alcuni fatti, ometterne altri e presentare ogni argomento attraverso una determinata prospettiva.
Se quei contenuti vengono indicizzati bene, collegati tra loro e ottimizzati per essere facilmente interpretati dai sistemi automatici, aumentano le probabilità che un motore di ricerca o un chatbot li incontri.
È sostanzialmente una versione evoluta della SEO.
Per vent’anni aziende, giornali e siti commerciali hanno cercato di conquistare Google.
Adesso la nuova frontiera potrebbe essere conquistare le intelligenze artificiali.
E la differenza rispetto alla SEO tradizionale è tutt’altro che trascurabile.
Google mostra normalmente diversi risultati.
Un chatbot prende invece molte informazioni e le trasforma in una singola risposta coerente, spesso percepita dall’utente come neutrale e autorevole.
La propaganda potrebbe non avere più bisogno di essere letta
Qui emerge probabilmente l’elemento più inquietante della vicenda.
La propaganda tradizionale deve raggiungere direttamente le persone.
Un video deve diventare virale. Un post deve essere condiviso. Un articolo deve essere letto. Una campagna pubblicitaria deve conquistare attenzione.
Nell’era dell’intelligenza artificiale potrebbe comparire un nuovo destinatario: l’algoritmo stesso.
Un sito potrebbe ricevere pochissime visite umane e continuare ad avere valore se viene indicizzato, analizzato e considerato rilevante dai sistemi automatici.
In altre parole, un contenuto potrebbe essere scritto non tanto perché qualcuno lo legga direttamente, quanto perché qualcuno chieda successivamente a un chatbot qualcosa e quel chatbot utilizzi quel contenuto per costruire la propria risposta.
Alcune indagini giornalistiche sulla rete di contenuti collegata all’operazione Clock Tower X hanno già segnalato casi nei quali determinati siti sarebbero comparsi tra le fonti recuperate da servizi basati sull’intelligenza artificiale.
Questo non dimostra però che quei contenuti siano entrati permanentemente nell’addestramento di ChatGPT, Gemini o Claude.
La distinzione è fondamentale.
Essere utilizzati come fonte durante una ricerca online non significa essere presenti nei dati con cui un modello è stato addestrato.
Allo stesso modo, la presenza di una pagina all’interno di grandi archivi Web come Common Crawl non dimostra automaticamente che quella specifica pagina sia stata utilizzata per addestrare un determinato modello.
Per questo parlare indiscriminatamente di “LLM poisoning” rischia di essere tecnicamente impreciso.
Ma il tentativo di influenzare l’ambiente informativo utilizzato dai chatbot resta estremamente rilevante.
Il vero pericolo è la costruzione artificiale dell’autorevolezza
Il problema più serio potrebbe non essere la diffusione delle classiche fake news.
Le intelligenze artificiali possono essere influenzate anche attraverso qualcosa di molto più sofisticato: contenuti apparentemente affidabili.
Immaginiamo un portale con un nome professionale, grafica pulita, statistiche, grafici, citazioni e riferimenti a studi reali.
A prima vista potrebbe sembrare una normale fonte informativa.
Ma dietro quel sito potrebbe esserci un’operazione di comunicazione finanziata da un governo, una lobby, un’azienda o un’organizzazione politica.
Il contenuto potrebbe persino essere tecnicamente corretto.
La manipolazione potrebbe consistere semplicemente nel decidere quali fatti enfatizzare e quali lasciare fuori.
È una forma di influenza molto più difficile da identificare rispetto alla disinformazione grossolana.
Se cento siti ripetono informazioni completamente false, un sistema può teoricamente confrontarle con fonti più autorevoli.
Se invece cento siti riportano fatti veri ma selezionati in modo da costruire tutti la stessa narrativa, distinguere l’informazione dalla propaganda diventa enormemente più complicato.
Ed è qui che entra in gioco quella che potremmo definire credibilità algoritmica artificiale.
Non bisogna necessariamente convincere il chatbot di una bugia.
Può essere sufficiente convincerlo che determinate fonti meritano più spazio di altre.
Leggi anche:
Sarebbe un errore pensare che il problema riguardi soltanto Israele
La vicenda israeliana è importante perché offre un esempio documentato di questa nuova strategia.
Ma concentrarsi esclusivamente su Israele rischia di nascondere il problema principale.
Se una tecnica funziona, perché dovrebbero utilizzarla soltanto gli israeliani?
Governi, partiti, multinazionali, lobby, aziende farmaceutiche, società finanziarie, gruppi ambientalisti, produttori di energia e organizzazioni politiche hanno tutti un interesse potenziale nel determinare quali informazioni vengano considerate autorevoli.
Potremmo quindi trovarci davanti alla nascita di un mercato completamente nuovo.
Dopo la Search Engine Optimization, la SEO, sta già crescendo il concetto di Generative Engine Optimization, o GEO: tecniche studiate per aumentare le probabilità che un contenuto venga utilizzato o citato dalle intelligenze artificiali.
In ambito commerciale non c’è necessariamente qualcosa di oscuro.
Un’azienda vuole che ChatGPT consigli il proprio prodotto? Cercherà di rendere le informazioni sul prodotto facilmente comprensibili e reperibili.
Un albergo vuole apparire nelle risposte di un assistente di viaggio? Ottimizzerà la propria presenza digitale.
Ma quando le stesse tecniche vengono applicate alla politica, alle guerre o alla geopolitica, il discorso cambia radicalmente.
Non stiamo più parlando soltanto di marketing.
Stiamo parlando della possibilità di influenzare la rappresentazione digitale della realtà.
Il potere enorme di una risposta unica
Un altro elemento dovrebbe preoccupare le aziende che sviluppano questi sistemi.
Il vecchio Web costringeva almeno in parte l’utente a confrontare le fonti.
Cercando un argomento controverso su Google era possibile trovare un giornale favorevole, uno contrario, un documento ufficiale, un’analisi accademica e magari un forum.
La responsabilità della scelta rimaneva all’utente.
L’intelligenza artificiale cambia questo rapporto.
Una domanda produce spesso un’unica risposta.
Il chatbot decide quali elementi inserire, quali eliminare, quanto spazio dedicare a una posizione e quanto all’altra.
E soprattutto presenta tutto attraverso un linguaggio generalmente sicuro, ordinato e convincente.
Questo può creare un’illusione pericolosa: quella che dietro alla risposta esista una sorta di verità matematica.
Non è così.
Una risposta dipende dai dati, dalle fonti disponibili, dagli algoritmi di ricerca, dalle istruzioni del sistema e dal modo in cui il modello interpreta la domanda.
Se qualcuno riesce a intervenire su uno di questi elementi — per esempio aumentando artificialmente la presenza di determinate fonti sul Web — può almeno tentare di spostare l’equilibrio.
Non significa avere il controllo dell’intelligenza artificiale.
Ma significa capire dove provare a esercitare influenza.
OpenAI, Google e Anthropic dovranno mostrare meglio da dove arrivano le informazioni
La responsabilità non può però ricadere soltanto su chi produce propaganda.
Le aziende che sviluppano sistemi di intelligenza artificiale dovranno affrontare seriamente il problema della provenienza delle informazioni.
Indicare semplicemente una fonte potrebbe non bastare.
In futuro potrebbe diventare necessario valutare non soltanto cosa dice un sito, ma anche chi lo finanzia, chi lo gestisce, quali altri siti appartengono alla stessa rete e se dietro la pubblicazione esiste una campagna coordinata.
È una sfida enorme.
Un contenuto sponsorizzato può essere dichiarato.
Una pubblicità può essere riconosciuta.
Ma cosa succede quando un’intera rete di siti apparentemente editoriali viene costruita con l’obiettivo di diventare una sorgente autorevole per gli algoritmi?
Il chatbot potrebbe citare quella fonte senza sapere che dietro esiste un interesse politico preciso.
E l’utente finale potrebbe non avere alcun motivo per sospettarlo.
La trasparenza delle fonti diventerà quindi importante quanto l’accuratezza delle risposte.
Sapere che un dato è corretto non basta.
Bisogna capire anche chi ha deciso che proprio quel dato fosse quello da mettere davanti agli altri.
Non è la prova che Israele controlla ChatGPT, ed è proprio questo il punto
Trasformare questa vicenda nella prova di un complotto secondo cui “Israele controlla ChatGPT” sarebbe sbagliato e finirebbe paradossalmente per indebolire una discussione molto più seria.
Non esistono prove pubbliche che Israele abbia pagato OpenAI per modificare ChatGPT.
Non risultano accordi analoghi con Google per Gemini o con Anthropic per Claude.
E non abbiamo elementi sufficienti per affermare che i modelli siano stati direttamente addestrati sui contenuti della campagna allo scopo di modificarne deliberatamente le risposte.
Quello che esiste è però un tentativo documentato di produrre e distribuire contenuti pensando anche al modo in cui i sistemi GPT potrebbero recuperarli e utilizzarli.
Ed è forse un segnale ancora più importante.
Perché significa che il valore strategico dei chatbot è già stato compreso.
Non serve necessariamente controllare un’intelligenza artificiale dall’interno.
Potrebbe essere molto più semplice modellare ciò che trova all’esterno.
La prossima guerra dell’informazione potrebbe essere combattuta per conquistare le IA
Per decenni la battaglia per l’opinione pubblica si è combattuta sulle televisioni, sui giornali e successivamente sui social network.
Ora potrebbe aprirsi un nuovo fronte.
Se sempre più persone smetteranno di cercare direttamente le informazioni e inizieranno semplicemente a domandarle a ChatGPT, Gemini, Claude, Copilot o Perplexity, influenzare le fonti utilizzate da questi sistemi diventerà estremamente prezioso.
La domanda decisiva, quindi, non è se il governo israeliano sia riuscito a “comprare” le risposte di ChatGPT.
Non ci sono prove che sia successo.
La domanda interessante è un’altra:
quanti governi, aziende e gruppi di pressione stanno già cercando di influenzare ciò che le intelligenze artificiali leggeranno domani?
È possibile che Clock Tower X sia soltanto uno dei primi casi diventati pubblici.
E se questa strategia dovesse diffondersi, distinguere un’informazione spontaneamente presente sul Web da una narrativa costruita industrialmente potrebbe diventare sempre più difficile.
La propaganda non avrebbe più bisogno di convincerci direttamente.
Potrebbe prima convincere — o almeno influenzare — gli algoritmi ai quali abbiamo affidato il compito di spiegarci il mondo.
Ed è questo il punto che dovrebbe preoccupare più dei titoli sui 46 milioni di dollari.
Perché non serve necessariamente manipolare ChatGPT.
Potrebbe bastare manipolare abbastanza bene Internet affinché sia ChatGPT, in buona fede, a fare il resto.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.