Meta corregge la sua IA dopo le proteste: faceva domande troppo personali sui figli degli utenti
Meta ha deciso di modificare il comportamento del proprio assistente di intelligenza artificiale dopo le critiche provocate da alcune suggerimenti particolarmente invasivi. Il caso è esploso quando un’utente ha raccontato che Meta AI aveva iniziato a proporle domande riguardanti i suoi figli e altre informazioni familiari.
L’azienda ha riconosciuto che il sistema non avrebbe dovuto generare suggerimenti di questo tipo e ha dichiarato di essere intervenuta sul problema. La vicenda evidenzia una questione delicata: un’informazione può essere tecnicamente accessibile a un utente, ma diventare molto più invasiva quando un’IA la collega automaticamente ad altri contenuti personali.
Meta AI ha iniziato a fare domande sui figli dell’utente
Il caso è diventato pubblico dopo la diffusione di un video della creator di Instagram Kalie Robins. La donna ha raccontato che tutto sarebbe iniziato dopo aver pubblicato su Facebook un filmato nel quale cantava in automobile insieme al figlio.
Sotto al contenuto sarebbe comparso un suggerimento generato da Meta AI con una domanda sull’identità del bambino presente come passeggero. Dopo aver selezionato la richiesta, l’assistente avrebbe iniziato a mostrare informazioni relative alle figlie della donna.
Secondo il racconto di Robins, il sistema avrebbe utilizzato elementi provenienti da vecchie pubblicazioni sue e di altri familiari, proponendo successivamente altre domande sull’età dei figli e sul luogo in cui vive la famiglia.
La donna ha inoltre affermato che l’IA le avrebbe mostrato fotografie delle figlie precedentemente pubblicate sulla piattaforma, compresa un’immagine che, secondo quanto riferito dall’utente, era stata eliminata anni prima.
Quest’ultimo dettaglio deriva dal racconto della diretta interessata e non dimostra, da solo, che il chatbot possa recuperare normalmente contenuti eliminati.
Meta ammette l’errore ma precisa come funziona l’accesso ai dati
In seguito alle polemiche, Meta ha riconosciuto che quel genere di suggerimenti non avrebbe dovuto essere prodotto.
Dina El-Kassaby, portavoce dell’azienda, ha dichiarato a The Verge che la società aveva commesso un errore e che la funzione non avrebbe mai dovuto proporre domande di quel tipo. Meta sostiene di essere già intervenuta sul comportamento responsabile delle raccomandazioni personali.
La società ha però respinto l’interpretazione secondo cui il chatbot avrebbe automaticamente accesso a qualsiasi contenuto privato presente sulle sue piattaforme.
Leggi anche:
Secondo la spiegazione fornita da Meta, l’assistente dovrebbe poter elaborare esclusivamente contenuti che l’utente che effettua la richiesta è già autorizzato a visualizzare. Se una determinata pubblicazione non è accessibile alla persona, quindi, Meta AI non dovrebbe essere in grado di mostrarla attraverso una risposta.
Nel caso di Robins, alcune informazioni sui figli potrebbero essere state ricavate da video, fotografie e altre pubblicazioni nelle quali erano già presenti riferimenti alla famiglia.
Il problema non è soltanto quali dati vede l’IA
La vicenda mette in evidenza una distinzione importante per la privacy nell’era dell’intelligenza artificiale. Il rischio non deriva necessariamente dall’accesso a un singolo dato riservato.
Un sistema capace di analizzare numerosi contenuti può mettere in relazione informazioni sparse tra fotografie, video, didascalie e vecchie pubblicazioni. Elementi che separatamente potrebbero sembrare innocui possono diventare molto più sensibili quando vengono aggregati e presentati automaticamente.
Le raccomandazioni di Meta AI sono state progettate per permettere agli utenti di approfondire ciò che stanno visualizzando. Una persona può selezionare una domanda suggerita e ricevere dal chatbot ulteriori informazioni sul contenuto.
Nel caso segnalato, però, questa funzione avrebbe oltrepassato il confine previsto, trasformando informazioni familiari in domande personali non richieste.
Meta intende quindi evitare che il sistema proponga automaticamente argomenti di questo genere, anche quando le informazioni utilizzate risultano tecnicamente accessibili all’utente.
Una nuova sfida per Meta AI su Facebook, Instagram e WhatsApp
La questione assume particolare rilevanza considerando quanto sia estesa l’integrazione dell’assistente di Meta. Meta AI è presente nell’ecosistema dell’azienda, che comprende piattaforme come Facebook, Instagram, WhatsApp e Messenger, e offre funzionalità che spaziano dalle risposte alle domande alla generazione di contenuti.
Più questi assistenti vengono integrati nei social network, maggiore diventa la quantità di contesto che potenzialmente può essere utilizzata per fornire risposte pertinenti. Allo stesso tempo cresce la necessità di stabilire limiti chiari sull’utilizzo delle informazioni personali.
Il caso mostra infatti che rispettare tecnicamente le autorizzazioni di accesso potrebbe non essere sufficiente. Un assistente deve anche valutare se sia opportuno collegare determinate informazioni e trasformarle in suggerimenti rivolti direttamente all’utente.
Meta afferma di aver corretto il comportamento che aveva provocato le raccomandazioni contestate. La sfida sarà ora mantenere Meta AI utile nell’esplorazione dei contenuti senza trasformare dettagli sulla famiglia e sulla vita personale in suggerimenti percepiti come invasivi.
Ti potrebbe interessare:
- Nuova Zelanda verso il divieto dei social ai minori di 16 anni: multe fino al 10% dei ricavi globali
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.