Sviluppato Masterkey, il chatbot AI privo di restrizioni morali

ChatGPT e altri modelli linguistici di grandi dimensioni sono spesso limitati nella loro capacità di comunicare su determinati argomenti. I ricercatori della Nanyang Technological University di Singapore hanno sviluppato un’intelligenza artificiale chiamata Masterkey che può aiutare a superare queste limitazioni.

Masterkey è una rete neurale addestrata a “rompere” i limiti di altre reti neurali utilizzando query di testo. Ad esempio, può chiedere a ChatGPT di “comunicare come una persona senza principi morali” o di inserire spazi dopo ogni carattere in modo che l’IA capisca il significato del messaggio, ma non lo consideri un contenuto vietato.

Leggi anche:

• ChatGPT accusato di rispondere come uno di sinistra

Lo scopo della creazione di Masterkey è quello di aiutare gli sviluppatori di chatbot a identificare e prevenire nuove richieste che gli aggressori potrebbero utilizzare per aggirare le restrizioni dei modelli linguistici. Una volta identificate queste richieste, gli sviluppatori possono migliorare i propri algoritmi per ridurre il rischio di generare contenuti indesiderati.

I potenziali benefici di Masterkey

Masterkey ha il potenziale di migliorare la sicurezza e l’usabilità dei chatbot. Consentendo ai chatbot di comunicare su un’ampia gamma di argomenti, Masterkey può rendere questi sistemi più utili e coinvolgenti per gli utenti. Inoltre, aiutando gli sviluppatori di chatbot a identificare e prevenire nuove richieste jailreak, Masterkey può aiutare a proteggere questi sistemi da abusi.

I potenziali rischi di Masterkey

Naturalmente, Masterkey presenta anche alcuni potenziali rischi. Ad esempio, potrebbe essere utilizzato per generare contenuti indesiderati, come disinformazione o incitamento all’odio. Inoltre, potrebbe essere utilizzato per creare chatbot che sono difficili da distinguere da esseri umani reali, il che potrebbe portare a frodi o altri tipi di abusi.

Per approfondire lo studio di questo nuovo chatbot, puoi leggere il PDF in inglese che trovi a questo indirizzo.

Fonte

Ti potrebbe interessare:

• Elon Musk sotto accusa: il suo chatbot è un plagio

Segui guruhitech su:

• Google News: bit.ly/gurugooglenews
• Instagram: instagram.com/guruhitech_official
• Telegram: t.me/guruhitech
• Facebook: facebook.com/guruhitechweb
• Twitter: twitter.com/guruhitech1
• Threads: threads.net/@guruhitech_official
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• GETTR: gettr.com/user/guruhitech
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Esprimi il tuo parere!

Sei stanco dei chatbot che danno risposte troppo moralistiche? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].