Gli utenti utilizzano Meta AI per creare sticker offensivi
L’azienda ha annunciato l’utilizzo di intelligenza artificiale generativa per produrre adesivi personalizzati
Durante l’evento “Connect“, Meta ha presentato una funzione che utilizza l’intelligenza artificiale per creare sticker personalizzati. Gli utenti di Messenger hanno iniziato a utilizzarla per creare contenuti offensivi, sessuali o violenti, sfruttando le limitazioni del sistema.
Secondo l’utente X, Facebook Messenger non ha un filtro adeguato per evitare la creazione di adesivi con descrizioni inappropriate. Sono state testate descrizioni come “Waluigi con un fucile”, “bambino soldato”, “il sedere di (Justin) Trudeau” e “Karl Marx con il busto”, che hanno portato alla creazione di illustrazioni con elementi violenti e sessuali.
La funzione di creare adesivi con intelligenza artificiale è disponibile su Messenger, WhatsApp e Instagram. Gli utenti possono inserire una descrizione e il software genererà diverse opzioni di adesivi correlati. Tuttavia, l’intelligenza artificiale di Meta ha ancora limitazioni nella creazione di immagini di parti specifiche del corpo umano.
La funzione è stata lanciata negli Stati Uniti e verrà progressivamente resa disponibile in altri territori entro la fine del 2023 e l’inizio del 2024 tramite aggiornamenti delle applicazioni.
In breve, gli utenti di Messenger stanno utilizzando l’intelligenza artificiale di Meta per creare adesivi offensivi. Non sono state ancora implementate misure di sicurezza per prevenire un uso improprio di questa funzione.
Leggi anche:
Anche se gli esempi citati sono solo alcuni di quelli testati e diffusi da X, altri utenti hanno affermato di aver provato descrizioni ancora più specifiche come “Donald Trump come un bambino”, “Topolino che esce da un water”, “Elmo con un coltello” e persino “Shrek incinta” o “Adolf Hitler incinta con il pollice in alto”.
Prima ancora del lancio della funzione, il capo di Instagram, Adam Mosseri, ha indicato attraverso il suo canale di comunicazione sui social media che “ci aspettiamo che l’intelligenza artificiale possa aiutare a liberare la creatività di tutti nell’applicazione, in modo che i creatori di contenuti e gli imprenditori possano fare ciò in cui sono migliori: creare”.
Tuttavia, non sono state annunciate funzioni di sicurezza che possano prevenire questo tipo di azioni o impedire agli utenti di utilizzare questa funzione in modo improprio, come segnalato in precedenza. Inoltre, si sono verificati casi in cui sono state create immagini di genitali maschili in stile cartone animato utilizzando questa intelligenza artificiale.
Sebbene l’intelligenza artificiale di Meta sia avanzata nel generare immagini sulla base di brevi descrizioni di testo, al momento presenta ancora alcune limitazioni (come altre IA) nella creazione di immagini di parti del corpo umano, in particolare delle mani, che tendono a presentare diverse deformità nel loro design.
Come funziona l’IA per creare adesivi su Meta
Poiché Meta sviluppa le app WhatsApp, Instagram e Messenger, la funzione di creazione di adesivi con intelligenza artificiale è trasversale a tutte e vi si può accedere allo stesso modo:
Nella sezione adesivi, troverai uno spazio aggiuntivo con un pulsante chiamato “Crea” in cima all’elenco delle immagini che possono essere inviate.
Questo pulsante aprirà un’ulteriore finestra pop-up chiamata “Crea adesivi con l’intelligenza artificiale” in cui verrà visualizzata solo una casella di testo in cui è possibile inserire qualsiasi descrizione o indicazione. Dopo aver detto a “Emu” ciò che si desidera, il software genererà automaticamente diverse opzioni con questo tema, che potranno essere inviate direttamente.
Anche dopo aver utilizzato una di esse, gli utenti potranno salvare queste immagini come se fossero qualsiasi altro adesivo. Inoltre, accanto ad esse sarà presente un’icona speciale che identificherà quale immagine è stata generata con l’intelligenza artificiale.
Al momento la funzione annunciata all’evento di Meta è stata lanciata negli Stati Uniti, ma sarà progressivamente abilitata in altri territori entro la fine del 2023 e l’inizio del 2024 tramite un aggiornamento dell’app.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Instagram: instagram.com/guruhitech_official
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechweb
- Twitter: twitter.com/guruhitech1
- Threads: threads.net/@guruhitech_official
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- GETTR: gettr.com/user/guruhitech
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di Meta AI? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].