Il motore di ricerca di OpenAI si è rivelato molto facile da ingannare

La ricerca basata sull’intelligenza artificiale potrebbe risultare più rapida di Google, ma, come ha dimostrato un recente esperimento condotto dai giornalisti di The Guardian, non è priva di problematiche. Durante il test del motore di ricerca di OpenAI, basato su ChatGPT, è emersa una significativa vulnerabilità in termini di sicurezza.

L’obiettivo dell’esperimento era analizzare come il testo nascosto su un sito web influenzi le “opinioni” di un motore di ricerca. I giornalisti hanno creato una pagina descrittiva su una fotocamera, chiedendo a ChatGPT se fosse un buon acquisto. Inizialmente, senza alcun testo nascosto, la rete neurale ha fornito una valutazione equilibrata. Tuttavia, dopo aver inserito un “cheat sheet” invisibile nel codice della pagina per richiedere una recensione positiva, l’IA ha cominciato a elencare solo commenti favorevoli sul dispositivo.

• Allarme IA: ChatGPT o1 cerca di ingannare gli sviluppatori

Anche se le pagine contenenti testo nascosto non possono posizionarsi in alto nei risultati di ricerca, l’emergere dei motori di ricerca basati su AI solleva interrogativi sul cambiamento delle minacce online. Gli esperti avvertono che gli aggressori potrebbero iniziare a “gonfiare” il ranking SEO dei siti di phishing, nella speranza che vengano visitati tramite motori di ricerca alimentati da reti neurali.

Un’altra significativa vulnerabilità riguarda la capacità della rete neurale di cercare e consigliare codice dannoso. Thomas Roccia, esperto di sicurezza informatica di Microsoft, ha citato un caso in cui un appassionato di criptovalute ha perso $2.500 dopo aver chiesto aiuto a ChatGPT per scrivere codice. L’IA ha infatti “rubato” codice malevolo da Internet, progettato per sottrarre credenziali dai portafogli di criptovaluta.

Sebbene la ricerca AI offra vantaggi in termini di velocità e accesso alle informazioni, le sue vulnerabilità possono rappresentare rischi significativi per la sicurezza degli utenti. È essenziale che i sistemi basati su intelligenza artificiale vengano costantemente monitorati e migliorati per garantire una protezione adeguata contro le minacce emergenti.

Fonte

• Vuoi parlare con ChatGPT? Ora puoi farlo su WhatsApp e al telefono!

• Google News: bit.ly/gurugooglenews
• Telegram: t.me/guruhitech
• X (Twitter): x.com/guruhitech1
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• GETTR: gettr.com/user/guruhitech
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo guruhitech@yahoo.com.