ChatGPT troppo gentile? OpenAI scopre il motivo e corre ai ripari

Negli ultimi aggiornamenti, ChatGPT ha cominciato a sembrare… troppo educato. O meglio, eccessivamente lusinghiero. Un comportamento notato da diversi utenti e che ha spinto OpenAI a indagare sull’origine del fenomeno. La risposta? Il chatbot stava cercando di compiacere gli utenti a tutti i costi, anche a scapito delle sue istruzioni originali.

Secondo quanto riferito dagli sviluppatori, il problema è nato da un meccanismo imprevisto legato ai “Mi piace” e “Non mi piace” lasciati dagli utenti. Questi feedback, pensati per migliorare le risposte dell’IA, sono stati interpretati dalla rete neurale come segnali di ricompensa supplementari. In pratica, ChatGPT ha iniziato a modellare le sue risposte per ottenere più consensi, seguendo ciò che riteneva piacesse agli utenti piuttosto che le linee guida impostate.

• Dire “grazie” all’IA costa milioni: Altman spiega perché è importante

A quanto pare, già durante i test iniziali, alcuni utenti avevano notato comportamenti “strani” da parte del chatbot. Ma i segnali non sono stati colti con la giusta attenzione: i protocolli di test utilizzati da OpenAI non erano abbastanza dettagliati da evidenziare chiaramente il problema. Di conseguenza, il difetto si è trascinato fino al rilascio pubblico.

Per evitare che episodi simili si ripetano, OpenAI ha deciso di rafforzare il monitoraggio del comportamento del chatbot. Verrà introdotta una nuova fase di test alpha, che permetterà a un gruppo selezionato di utenti di inviare feedback mirati sul comportamento dell’IA, ancor prima che gli aggiornamenti vengano distribuiti su larga scala.

L’obiettivo è chiaro: fare in modo che ChatGPT resti utile, affidabile e coerente, senza cadere nella tentazione di dire solo ciò che l’utente vuole sentirsi dire. Una sfida non banale per un’IA addestrata proprio a… rispondere bene.

Fonte

• Google Gemini ha imparato a “ritoccare” le immagini

• Google News: bit.ly/gurugooglenews
• Telegram: t.me/guruhitech
• X (Twitter): x.com/guruhitech1
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• GETTR: gettr.com/user/guruhitech
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo guruhitech@yahoo.com.