L’intelligenza artificiale può clonare la voce di qualsiasi celebrità
L’account gratuito consente di modificare solo 5 voci. Lo sviluppatore invita ad accedere all’opzione in modo responsabile e a non per truffare le persone
Oggi sono disponibili risorse digitali che utilizzano la tecnologia dell’intelligenza artificiale per svolgere varie attività o eseguire compiti su base ricorrente. Esistono generatori di immagini, musica, video e testo, oltre ad altri dedicati ad altre attività, come la trasformazione del testo in voci sintetiche utilizzate per creare audiolibri.
Tuttavia, la capacità di generare una voce falsa a cui si può dare qualsiasi copione ha raggiunto un punto in cui lo strumento è diventato forse pericoloso, soprattutto per le celebrità, poiché è stata creata un’intelligenza artificiale in grado di clonare la voce di una persona reale e di costringerla a dire cose che non sono mai state dette dalla persona reale.
Secondo quanto riportato dagli utenti del forum noto come 4chan, questa intelligenza artificiale creata dalla società ElevenLabs veniva utilizzata per falsificare l’audio delle celebrità per fare commenti violenti o pornografici.
Leggi anche:
L’azienda si è occupata di sviluppare il software che consente la generazione di questo tipo di contenuti e ha creato un programma di beta testing aperto, in modo che chiunque entri nel suo sito web abbia la possibilità di testare le capacità dello strumento. A differenza di altri software di creazione di voci sintetiche, le voci create da ElevenLabs sono più naturali e fluide che robotiche.
Ma la capacità di creare tracce audio naturali viene sfruttata per abusare della tecnologia e sintetizzare voci di persone registrate in precedenza, caricarle nel sistema di intelligenza artificiale e far dire loro cose che non sono mai state dette dai personaggi reali. L’azienda ha dichiarato sul suo account Twitter ufficiale.
“Grazie a tutti per aver testato la nostra piattaforma Beta. Se da un lato vediamo che la nostra tecnologia viene applicata prevalentemente per usi positivi, dall’altro vediamo anche un numero crescente di casi di abuso della clonazione vocale”, ha dichiarato ElevenLabs, che ha anche affermato di essere in grado di risalire da qualsiasi clip audio all’utente che l’ha creata.
Crazy weekend – thank you to everyone for trying out our Beta platform. While we see our tech being overwhelmingly applied to positive use, we also see an increasing number of voice cloning misuse cases. We want to reach out to Twitter community for thoughts and feedback!
— ElevenLabs (@elevenlabsio) January 30, 2023
Come funziona il sintetizzatore vocale
In linea di principio, sebbene ElevenLabs abbia dato libero accesso al beta test del software dal suo sito web, non ha rilasciato tutte le sue funzioni al pubblico. In particolare, quello per la clonazione vocale, chiamato “VoiceLab – Cloning”, richiede un abbonamento a pagamento, anche se è possibile effettuare una prova gratuita e poi pagare tra i 5 e i 330 dollari al mese per mantenere lo strumento disponibile.
Una volta entrati nel sito web dello strumento, gli utenti possono cliccare su un pulsante chiamato “Aggiungi una voce istantanea”, che attiverà un’ulteriore finestra in cui dovranno caricare un file audio con la voce che vogliono clonare. Il requisito minimo è che l’audio abbia una durata minima di un minuto, in cui si possa sentire chiaramente la voce del personaggio scelto.
Dopo averla caricata nel sistema, il software porterà gli utenti a una sezione dell’applicazione che consentirà loro di selezionare la voce caricata, configurare alcune opzioni di generazione come l’accento o la chiarezza della voce e infine un’area in cui inserire il testo che l’intelligenza artificiale leggerà con la voce desiderata.
Chi ha un account gratuito potrà generare solo 5 voci personalizzate e creare clip audio fino a 10.000 caratteri di testo al mese.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Instagram: instagram.com/guruhitech_official
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechweb
- Twitter: twitter.com/guruhitech1
- Threads: threads.net/@guruhitech_official
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- GETTR: gettr.com/user/guruhitech
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Proverai questo nuovo servizio di intelligenza artificiale per simulare le voci dei VIP? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].