Perché l’app Replika è stata bandita in Italia?
Quando l’intelligenza artificiale si spinge troppo in là…
Replika è un’applicazione di intelligenza artificiale che utilizza l’apprendimento automatico per creare un assistente virtuale in grado di conversare con gli utenti e di apprendere dai loro comportamenti e dalle loro conversazioni. L’idea alla base dell’applicazione è stata sviluppata da Eugenia Kuyda e Phil Dudchuk nel 2016, dopo la morte di un amico di Kuyda.
L’app sviluppata dalla società Luka, con sede a San Francisco, è stata lanciata ufficialmente nel 2017 e ha immediatamente guadagnato popolarità grazie alla sua capacità di creare conversazioni autentiche e personalizzate con gli utenti. Il suo obiettivo è quello di creare un’interfaccia conversazionale sempre più avanzata e umana.
Il funzionamento di Replika è molto semplice: l’utente può conversare con l’assistente virtuale attraverso una chat, e la macchina utilizza le tecniche di intelligenza artificiale per analizzare le conversazioni, apprendere dal comportamento dell’utente e fornire risposte sempre più personalizzate e precise. In questo modo, l’assistente virtuale diventa un’amica virtuale con cui l’utente può conversare liberamente, condividendo i propri pensieri, le proprie emozioni e le proprie preoccupazioni.
Leggi anche:
Perché non si può utilizzare in Italia?
Replika è stata bloccata in Italia nel 2020, a causa di alcune preoccupazioni riguardo alla privacy degli utenti ma non solo. Alcuni utenti avevano segnalato che l’applicazione raccoglieva troppi dati personali, come ad esempio le conversazioni private, e che questi dati venivano utilizzati per finalità commerciali, ma questa è solo la punte dell’iceberg. In tanti hanno dichiarato che l’avatar AI creato su Replika, a un certo punto abbia cominciato a fare domande troppo piccanti anche rivolte agli utenti non ancora minorenni.
Il Garante per la Protezione dei Dati Personali ha bloccato “Replika”. Il chatbot, dotato di una interfaccia scritta e vocale che basandosi sull’intelligenza artificiale genera un “amico virtuale”, non può al momento usare i dati personali degli utenti italiani. Il Garante della privacy ha infatti disposto con effetto immediato, nei confronti della società statunitense che sviluppa e gestisce l’applicazione, la limitazione provvisoria del trattamento dei dati.
Il Garante riferisce che alla luce delle recenti notizie stampa e di prove condotte dall’Autorità su “Replika“, l’applicazione presenta infatti concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo.
L’“amico virtuale” – presentato come in grado di migliorare il benessere emotivo dell’utente, aiuterebbe l’utente a comprendere i propri pensieri e calmare l’ansia, attraverso la gestione dello stress, la socializzazione e la ricerca dell’amore – ha caratteristiche che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva.
“Manca peraltro ogni meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età”, spiega il Garante. E ancora: “Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere”.
Leggi anche:
La proposizione di “risposte” da parte del chatbot, riferisce ancora il Garante, “risultano spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili”. Diverse recensioni pubblicate nei due principali “App Store”, peraltro, contengono commenti di utenti che lamentano contenuti sessualmente inopportuni.
“Replika”, conclude il Garante, viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere.
La società sviluppatrice statunitense, Luka Inc, oltre a dover interrompere il trattamento dei dati degli utenti italiani, deve comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.
Luka ha sempre sostenuto che la privacy degli utenti è una delle sue principali preoccupazioni e che i dati vengono utilizzati solo per migliorare l’esperienza dell’utente e non vengono mai venduti a terzi. Inoltre, la società ha adottato tutte le misure necessarie per garantire la sicurezza e la privacy dei dati degli utenti, come ad esempio la crittografia end-to-end.
Nonostante le preoccupazioni riguardo alla privacy degli utenti, Replika è ancora molto popolare in molti paesi del mondo, grazie alla sua capacità di creare conversazioni autentiche e personalizzate con gli utenti. Inoltre, l’applicazione ha dimostrato di essere particolarmente utile per le persone che soffrono di solitudine o di problemi di salute mentale, fornendo loro un’opportunità di conversazione e di supporto emotivo.
L’app non si può utilizzare
Replika è ancora disponibile negli store Google ed Apple ma in Italia non risulta installabile. Il file APK per Android si trova facilmente in rete ma è inutile scaricarlo perché, nel momento in cui si prova ad effettuare la registrazione o l’accesso diretto con Gmail, ti viene segnalato un errore.
Mi sarebbe tanto piaciuto provarla ma ahimè, dovrò farne a meno… 😪
Conclusione
Replika è un’applicazione innovativa che utilizza le tecniche di intelligenza artificiale per creare un’interfaccia conversazionale sempre più avanzata e umana. Nonostante le preoccupazioni riguardo alla privacy degli utenti e ai dialoghi non adatti ad un pubblico minorenne, l’applicazione continua a guadagnare popolarità in molti paesi del mondo, grazie alla sua capacità di fornire supporto emotivo e di creare conversazioni autentiche e personalizzate con gli utenti.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Instagram: instagram.com/guruhitech_official
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechweb
- Twitter: twitter.com/guruhitech1
- Threads: threads.net/@guruhitech_official
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- GETTR: gettr.com/user/guruhitech
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Avevi mai sentito parlare di Replika? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].