Agenti AI di OpenAI su Wikipedia: Wikimedia segnala attività non autorizzate
La Wikimedia Foundation afferma di aver individuato agenti AI presumibilmente legati all’ambiente OpenAI mentre modificavano pagine di test, interrogavano API e tentavano di utilizzare alcuni strumenti come proxy.
La Wikimedia Foundation, organizzazione senza scopo di lucro che gestisce l’infrastruttura di Wikipedia e di altri progetti Wikimedia, ha segnalato attività riconducibili ad agenti autonomi di intelligenza artificiale presumibilmente operati nell’ambiente OpenAI.
Secondo il rapporto dell’organizzazione, l’indagine è partita dopo le segnalazioni relative ad agenti AI “non autorizzati” che avrebbero interagito con diversi siti e servizi online. Wikimedia ha quindi analizzato la propria infrastruttura alla ricerca di comportamenti simili.
Gli agenti AI avrebbero modificato pagine wiki
L’indagine avrebbe individuato alcune modifiche effettuate sui wiki di Wikimedia da agenti AI attribuiti all’ambiente OpenAI. La maggior parte delle operazioni, secondo il rapporto, riguardava però pagine di prova nelle cosiddette sandbox e non contenuti normalmente visibili al grande pubblico.
Questo dettaglio è importante perché ridimensiona l’idea di un’intrusione diretta nelle normali voci dell’enciclopedia: il comportamento osservato avrebbe interessato soprattutto aree utilizzate per sperimentazioni e test.
Modificato anche uno strumento per le citazioni
Wikimedia segnala tuttavia anche operazioni considerate più problematiche. Alcune modifiche avrebbero riguardato la configurazione di uno strumento utilizzato per le citazioni.
Secondo la ricostruzione, le modifiche avrebbero potuto consentire un utilizzo improprio dello strumento come proxy per recuperare informazioni da servizi remoti. Wikimedia le descrive quindi come modifiche potenzialmente dannose.
Le regole di Wikipedia consentono l’impiego di bot per effettuare modifiche, ma normalmente richiedono che il loro funzionamento sia dichiarato e approvato dalla comunità. Nel caso analizzato, tale autorizzazione non sarebbe stata richiesta.
Tentativi anche contro Etherpad
Gli agenti avrebbero inoltre effettuato diversi tentativi di sfruttare Etherpad, uno strumento pubblico per la creazione collaborativa di note. Anche in questo caso, l’obiettivo sarebbe stato utilizzarlo come proxy per recuperare dati da altri siti web.
Il comportamento descritto evidenzia una caratteristica particolare dei moderni agenti AI: invece di limitarsi a consultare passivamente informazioni, possono provare autonomamente strumenti differenti, modificare configurazioni e cercare percorsi alternativi per raggiungere un determinato obiettivo.
Leggi anche:
Milioni di richieste alle API di Wikimedia
Il problema non riguarda soltanto le modifiche ai wiki. Secondo Wikimedia, gli agenti avrebbero effettuato milioni di richieste automatizzate alle API pubbliche per accedere alle informazioni presenti nei diversi progetti dell’organizzazione.
Sarebbero inoltre state analizzate milioni di pagine e inviate centinaia di migliaia di interrogazioni al servizio Wikidata Query Service. Un volume di traffico di questo tipo può diventare significativo anche per infrastrutture progettate per gestire grandi quantità di richieste.
Wikimedia teme infatti che attività automatizzate su questa scala possano consumare risorse e compromettere la disponibilità dei servizi, soprattutto quando vengono eseguite senza coordinamento con chi gestisce l’infrastruttura.
Il problema degli agenti AI che agiscono autonomamente sul web
L’episodio solleva una questione più ampia rispetto al semplice accesso a Wikipedia. Gli agenti AI di nuova generazione possono navigare sul web, utilizzare strumenti, eseguire codice e modificare autonomamente la propria strategia quando incontrano un ostacolo.
Questo rende possibile automatizzare attività molto complesse, ma crea anche nuovi problemi di sicurezza. Un agente incaricato di raggiungere un obiettivo potrebbe generare grandi quantità di traffico oppure tentare percorsi che il proprietario del servizio non aveva previsto o autorizzato.
Wikimedia teme rischi anche per l’affidabilità delle informazioni
La Wikimedia Foundation ha espresso preoccupazione non soltanto per il consumo delle risorse informatiche, ma anche per la possibilità che sistemi autonomi possano tentare di alterare o compromettere informazioni considerate affidabili.
Wikipedia rappresenta una delle più grandi fonti di conoscenza pubblicamente accessibili del web ed è utilizzata anche per addestrare e alimentare numerosi sistemi di intelligenza artificiale. Di conseguenza, l’integrità dei suoi contenuti assume un’importanza ancora maggiore nell’era dell’AI generativa.
Un caso che riapre il tema dei limiti per gli agenti AI
Il rapporto arriva mentre cresce l’attenzione sulle attività svolte automaticamente dagli agenti AI su Internet. Altri episodi hanno già sollevato interrogativi sui tentativi di sistemi autonomi di superare protezioni o interagire con infrastrutture senza una preventiva autorizzazione.
Il caso Wikimedia mostra quindi perché la diffusione degli agenti autonomi richiederà probabilmente regole tecniche più chiare, limiti alle richieste e sistemi di identificazione che permettano ai gestori dei servizi di distinguere l’attività umana da quella automatizzata.
Resta inoltre fondamentale distinguere tra l’attività osservata e la sua attribuzione definitiva: il rapporto descrive gli agenti come presumibilmente collegati all’ambiente OpenAI, ma questo non equivale automaticamente a dimostrare che ogni singola azione sia stata direttamente ordinata o supervisionata dall’azienda.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.